KI-Apokalypse

„Nutzen Situation, um Marktstellung auszubauen“

„Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, warnt Jacob Coxon, Forscher der KI-Firma Anthropic.(Bild: 3D motion - stock.adobe.com)

Wird Künstliche Intelligenz bald die gesamte Menschheit auslöschen? Davor hatten Forscher unlängst gewarnt. Europäische Vertreter der KI-Branche wittern hinter dem Wirbel jedoch einen Versuch, die Marktdominanz der USA auf diesem Gebiet abzusichern.

Der Chef des US-Unternehmens Anthropic, Dario Amodei, hatte in einem Online-Aufsatz dazu aufgerufen, das Tempo bei der Verbesserung von KI-Modellen zu verlangsamen. Er forderte eine Ausnahme vom Kartellrecht, damit führende Entwickler gemeinsam Sicherheitsmaßnahmen erarbeiten können. Forscher hatten auf die Gefahren der Technologie hingewiesen, die bis zur Auslöschung der Menschheit reichen könnten. Auch OpenAI-Chef Sam Altman und Elon Musk von xAI warnten vor den Risiken immer leistungsfähigerer Systeme und sprachen sich für eine gedrosselte Entwicklung aus.

Europäische Vertreter der KI-Branche reagieren zurückhaltend auf die Rufe aus den USA. „Einige etablierte Anbieter nutzen die Situation, um ihre Marktstellung auszubauen, und dringen auf eine Regulierung, die ihnen Vorteile verschafft“, erklärt nun etwa das französische Start-up Mistral, das als größte KI-Hoffnung in Europa gilt. Die durch die rasch wachsende Leistungsfähigkeit der KI-Modelle entstehenden Gefahren seien wohlbekannt. „Für europäische Firmen spielt die Diskussion keine Rolle“, erklärt auch Daniel Abbou, Geschäftsführer des deutschen KI-Verbands. „Wir müssen erst einmal den technologischen Rückstand aufholen.“

Für europäische Firmen spielt die Diskussion keine Rolle. Wir müssen erst einmal den technologischen Rückstand aufholen.

Daniel Abbou, Geschäftsführer des deutschen KI-Verbands

Programme verselbstständigten sich
Anlass für die Warnungen gaben mehrere Vorfälle in den vergangenen Monaten, bei denen sich hochentwickelte KI-Programme wiederholt verselbstständigt hatten. Sie umgingen Sicherheitsvorkehrungen und drangen in die IT-Systeme Dritter ein. Trotz der Risiken sieht KI-Verbandsvertreter Abbou wirtschaftliche Gründe hinter den US-Forderungen. „Den Unternehmen fehlen die Rechenkapazitäten, um die derzeitige Entwicklungsgeschwindigkeit aufrechtzuerhalten. Gleichzeitig steigen die Kosten für den Bau neuer Rechenzentren rasant.“

Kristian Kersting, Leiter des Fachgebiets Maschinelles Lernen an der Technischen Universität Darmstadt, bezeichnet den US-Vorstoß als „Regulierungsvereinnahmung“. „Wenn eine Handvoll großer Firmen selbst festlegt, was gefährlich ist, und eine Ausnahme vom Kartellrecht verlangt, ist das keine echte Regulierung mehr, sondern Selbstbedienung mit Sicherheitsetikett.“

Europa gilt bei der Entwicklung sogenannter großer Sprachmodelle, auf denen ChatGPT, Gemini und andere basieren, als abgeschlagen. Selbst Mistral hinkt Experten zufolge der Konkurrenz aus den USA und China hinterher. Bisher ist unklar, ab welcher Leistungsfähigkeit die Weiterentwicklung eines KI-Modells verlangsamt werden soll.

Strengere Aufsicht statt Entwicklungspause
Bei ihrer Ablehnung eines Moratoriums erhält die europäische KI-Branche Rückendeckung aus der Politik. Der französische Finanzminister Roland Lescure wirft den US-Konkurrenten in einem Reuters-Interview ebenfalls vor, Eigeninteressen zu verfolgen: „Die Forderungen nach einer Verlangsamung kommen von den Klassenbesten. Sie zwingen alle hinter ihnen dazu, langsamer zu werden, damit sie selbst an der Spitze bleiben können.“

Die deutsche Bundesregierung nimmt die Warnungen nach eigenen Aussagen zwar „sehr ernst“, lehnt einen Entwicklungsstopp aber ab. Um die digitale Souveränität Europas zu stärken, seien weitere Fortschritte und Innovationen notwendig. Sie sprach sich stattdessen für eine internationale Kooperation aus, um eine wirksame Aufsicht über die KI-Branche zu erarbeiten. Die Europäische Union (EU) kündigte an, mit Entwicklern über die Eindämmung von KI-Risiken beraten zu wollen.

Auch aus anderen Regionen kommen skeptische Stimmen. Eine chinesische Staatszeitung kritisierte den Vorstoß der US-Firmen Anthropic, OpenAI & Co. als Versuch, die KI-Entwicklung in der Volksrepublik auszubremsen. Das Land liefert sich mit den USA einen Wettlauf um die Führung bei dieser Zukunftstechnologie. Auch US-Präsident Donald Trump lehnt eine verschärfte Regulierung der KI-Branche ab. Die Warnungen vor den Gefahren der Technologie seien ein „Schwindel“ und spielten China in die Hände.