KI-Sicherheitsregeln:

Anthropic widersetzt sich Forderung des Pentagons

Anthropic kann der Forderung des Pentagons laut Eigenangaben „nicht guten Gewissens nachkommen“.(Bild: AP/Patrick Sison)

Anthropic wird einer Forderung des US-Verteidigungsministeriums in einem Streit um Sicherheitsvorkehrungen für Künstliche Intelligenz laut Firmenchef Dario Amodei nicht nachkommen. Das Pentagon fordert die Entfernung aller Sicherheitsvorkehrungen. Diese würden verhindern, dass die Technologie des Unternehmens zur Zielerfassung von Waffen oder zur Überwachung in den USA eingesetzt wird.

Laut Anthropic-CEO Amodei will das Verteidigungsministerium nur mit KI-Firmen Verträge abschließen, die „jeder rechtmäßigen Nutzung“ zustimmen und Schutzvorkehrungen aufheben würden. Das Ministerium habe gedroht, Anthropic aus seinen Systemen zu entfernen, wenn das Unternehmen an seinen Schutzmaßnahmen festhalte. Zudem habe es gedroht, die Firma als „Risiko für die Lieferkette“ einzustufen und den „Defense Production Act“ anzuwenden, um die Entfernung der Schutzmaßnahmen zu erzwingen.

„Diese Drohungen ändern nichts an unserer Position“
„Diese Drohungen ändern nichts an unserer Position. Wir können der Forderung nicht guten Gewissens nachkommen“, sagte Amodei. Es sei das Vorrecht des Ministeriums, die Vertragspartner auszuwählen, die am ehesten mit seiner Vision übereinstimmten. „Aber angesichts des erheblichen Werts, den die Technologie von Anthropic für unsere Streitkräfte darstellt, hoffen wir, dass sie ihre Entscheidung überdenken“, sagte Amodei. Sollte sich das Ministerium dafür entscheiden, die Zusammenarbeit mit Anthropic zu beenden, werde Anthropic einen reibungslosen Übergang zu einem anderen Anbieter ermöglichen.

Ein Unternehmenssprecher teilte mit, Anthropic sei weiterhin bereit, die Gespräche mit dem Pentagon fortzusetzen und sich für die „betriebliche Kontinuität für das Ministerium und die amerikanischen Kampftruppen“ einzusetzen.