Kommission mahnt USA

KI-Modelle für Ausländer gesperrt: EU prüft Folgen

Die neuesten KI-Modelle von Anthropic sind in den Fokus von US- und EU-Behörden geraten.(Bild: AFP/NICOLAS TUCAT)

Auf Anordnung der US-Regierung muss der KI-Entwickler Anthropic seine Top-Modelle für alle ausländischen Nutzer deaktivieren. Die EU-Kommission prüft die Folgen der Beschränkung und mahnt die USA. 

Die US-Regierung hatte die KI-Firma angewiesen, allen Ausländern den Zugang zu seiner neuesten Top-Software zu deaktivieren. Die Regierung in Washington begründete dies mit Bedenken für die nationale Sicherheit. Betroffen von dem Verbot sind auch Ausländer, die sich in den USA aufhalten  – und selbst die, die bei Anthropic arbeiten. Die Firma reagierte und erklärte, dass man kurzfristig den Zugang für alle kappen müsse. So bald wie möglich wolle man die Software wieder zugänglich machen.

Zeigt Abhängigkeit von USA
Die US-Behörden wollen den Zugang zu den KI-Modellen namens Fable 5 und Mythos 5 für Ausländer blockieren, weil sie befürchten, dass sie zum Aufdecken von Schwachstellen in Software missbraucht werden können. Jetzt hat die Europäische Kommission reagiert. „Wir prüfen die praktischen Konsequenzen für die europäischen Nutzer dieser Dienste genau“, erklärte jetzt EU-Kommissionssprecher Thomas Regnier. Die Entwicklung sei ein weiteres Beispiel dafür, warum Europa seine technologische Souveränität stärken müsse.

Anthropic-CEO Dario Amodei(Bild: AFP/FABRICE COFFRINI)

EU-Kommission warnt vor Diskriminierung
„Wir sehen, dass eine neue Generation hochleistungsfähiger KI-Modelle auf den Markt kommt“, so der Sprecher weiter. „Diese Modelle bieten erhebliche Vorteile, auch für die Cyber-Abwehr, werfen aber auch ernste Bedenken hinsichtlich der Cybersicherheit auf, die angegangen werden müssen.“ Vorsorgemaßnahmen, die in diesem Zusammenhang ergriffen würden, sollten Partner jedoch nicht diskriminieren.

Die KI hinter Anthropics KI-Modell Mythos ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu stopfen. Eine Sorge war jedoch von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.

Das erst diese Woche veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie – bei ihm werden aber die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert. Mythos 5 ist die nicht-öffentliche volle Version, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden sollte.

Ironische Wendung
Dass die Regierung ausgerechnet Anthropic anordnet, Top-KI-Modelle zu sperren, hat eine gewisse Ironie: Erst vor wenigen Tagen hatte sich Anthropic-Chef Dario Amodei dafür ausgesprochen, die Regierung potenziell gefährliche KI-Software blockieren zu lassen. Anthropic betont aber, dass dies auf Basis transparenter und klarer Verfahren sowie technischer Fakten geschehen müsse. Das sei aktuell nicht der Fall.

Anthropics Verhältnis zur Regierung von US-Präsident Donald Trump ist angespannt. Das Unternehmen hatte sich geweigert, dem US-Militär die Nutzung seiner Modelle für inländische Überwachung und vollständig autonome Waffensysteme zu gestatten. Daraufhin setzte die Regierung Anthropic auf eine schwarze Liste für Lieferketten.