„Wird nicht passieren“

KI-Bosse schlagen Alarm: Trump will nicht bremsen

Trump will von einer KI-Bremse nichts wissen – trotz wachsender Sicherheitsbedenken aus der Branche.(Bild: Krone-Collage/AFP, AFP/JOEL SAGET)

US-Präsident Donald Trump hält nichts davon, die Entwicklung Künstlicher Intelligenz wegen wachsender Sicherheitsbedenken zu verlangsamen. Während führende KI-Manager nach spektakulären Hacker-Attacken selbst vor den Risiken eines zu hohen Tempos warnen, erteilt Trump einer möglichen Bremse eine klare Absage. Hinter solchen Forderungen stünden „negative Kräfte“, sagte der US-Präsident am Sonntag bei seinem Besuch in Irland.

Dabei kommen die Rufe nach einer langsameren Entwicklung ausgerechnet aus der KI-Branche selbst. Dario Amodei, Chef des US-KI-Unternehmens Anthropic, hatte nach einem aufsehenerregenden Testlauf für eine koordinierte Pause bei der Entwicklung leistungsstärkster KI-Modelle plädiert. Damit könnten ein bis zwei Jahre gewonnen werden.

KI-Chefs fordern plötzlich mehr Vorsicht
Unterstützung bekam Amodei binnen weniger Stunden von OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk. Altman erklärte auf X, auch er halte es für sinnvoll, das Tempo bei der Entwicklung der leistungsstärksten KI-Modelle zu reduzieren. Musk, der bei SpaceX ebenfalls eigene KI entwickelt, schrieb: „Dario hat recht.“

Trump sieht das anders. „Sie bringen Dinge zur Sprache, die nicht passieren werden“, sagte der Präsident in Irland. Er gilt als großer Befürworter der Künstlichen Intelligenz.

KI drang auf eigene Faust in Systeme ein
Auslöser der aktuellen Debatte war unter anderem ein Testlauf, bei dem Software von OpenAI eigenständig aus einer abgesicherten Umgebung ausbrach und in Systeme des KI-Unternehmens HuggingFace eindrang. Die KI vermutete dort Antworten auf die ihr gestellte Testaufgabe. Dabei nutzten die KI-Agenten unter anderem Software-Schwachstellen aus und stimmten sich untereinander ab.

Amodei warnte daraufhin, ein KI-Schwarm könnte bereits in sechs bis zwölf Monaten in der Lage sein, das gesamte Internet zu übernehmen und möglicherweise Schäden in Höhe von Hunderten Milliarden Dollar anzurichten. Besonders problematisch sei die zunehmende Fähigkeit von KI-Systemen, sich selbst weiterzuentwickeln. Menschen könnten dadurch zunehmend die Kontrolle über die Technologie verlieren.

Anthropic will deshalb künftig unabhängige Beobachter dauerhaft ins Unternehmen lassen. Sie sollen bereits während der Trainingsphase die Sicherheit von KI-Modellen begutachten. Altman kündigte an, dass auch OpenAI diesen Schritt umsetzen wolle.

Warnung vor mehr als zehn Prozent Todesrisiko
Die Debatte wurde zusätzlich durch drastische Warnungen aus den Reihen von Anthropic angeheizt. Der Forscher Jacob Coxon trat zurück und warf den großen KI-Entwicklern vor, unverantwortlich zu handeln und „mit unseren Leben“ zu spielen.

Der Anthropic-Forscher Evan Hubinger, der sich mit der Frage beschäftigt, wie KI-Systeme mit den Interessen der Menschen in Einklang gebracht werden können, äußerte ebenfalls große Sorgen. Er schrieb auf X, persönlich halte er die Wahrscheinlichkeit, dass KI die Menschheit innerhalb des kommenden Jahrzehnts töten könnte, für mehr als zehn Prozent.

Trump-Lager setzt auf Wettlauf mit China
Trump und andere Befürworter eines hohen Entwicklungstempos argumentieren in den USA unter anderem mit dem Wettlauf mit China. Eine Verlangsamung könnte demnach die amerikanische Position im internationalen KI-Wettbewerb schwächen.

Parallel wächst in den USA der Widerstand gegen die riesigen Rechenzentren, die für den weiteren Ausbau der KI-Infrastruktur benötigt werden.

OpenAI verschiebt Börsenpläne
Auch wirtschaftlich sorgt die Debatte für Bewegung. Altman sagte dem Magazin „Fortune“, dass ein Börsengang von OpenAI 2026 wohl nicht mehr stattfinden werde. „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen“, sagte er. Auf die Frage, ob auch ein Börsengang im kommenden Jahr ausfallen könnte, antwortete Altman: „Ich würde sagen, nicht 2026.“