„Komplett falsch“

KI-Irrtum: Schiff aus China fast von USA gestürmt

US-Soldaten hätten wegen eines KI-Irrtums beinahe ein chinesisches Schiff gestürmt. (Symbolbild)(Bild: AFP/STR)

Dieser KI-Irrtum wäre beinahe ins Auge gegangen: Ein „komplett falscher“ Geheimdienstbericht, den das US-Militär mit Unterstützung Künstlicher Intelligenz (KI) erstellen ließ, hätte fast dazu geführt, dass Soldaten ein chinesisches Schiff gestürmt hätten. Erst in letzter Minute konnte laut CNN Schlimmeres verhindert werden.

Wie der US-Sender unter Berufung „auf mit dem Vorfall vertraute Kreise“ berichtet, hat sich die Beinahe-Katastrophe bereits im Frühjahr im Nahen Osten ereignet. Demnach warnte der fehlerhafte KI-Bericht vor einer angeblichen Ladung des Schiffes mit Komponenten für Atomwaffen. Die falschen Informationen hätten demnach „fast einen Krieg verursacht“.

Kampfflugzeuge waren schon in der Luft
US-Soldaten hätten sich bereits darauf vorbereitet, das Schiff zu entern. sogar Flugzeuge der Air Force seien bereits in der Luft gewesen. Der Einsatz wurde abgebrochen, nachdem Beamte herausgefunden hatten, dass ein von einem Analysten genutzter KI-Chatbot die Ladung des Schiffes falsch identifiziert habe.

Fatale Fehleinschätzung
Der KI-Bot soll laut CNN öffentlich zugängliche Informationen mit Geheimdienstinformationen verknüpft haben und so zu seiner fatalen Fehleinschätzung gekommen sein. Der Analyst nutzte demnach dann abermals KI, um einen Geheimdienstbericht zu verfassen, den er dann verbreitete.

Was das Schiff tatsächlich geladen hatte und wohin es unterwegs war, blieb unklar. Die US-Streitkräfte und das Pentagon äußerten sich noch nicht zu dem Vorfall.

Warnungen vor KI häufen sich
In jüngster Zeit häuften sich Warnungen über die Gefahren, die vom Einsatz Künstlicher Intelligenz ausgehen. Ein Mitarbeiter des Unternehmens Anthropic sagte unlängst, die Chancen, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, lägen bei mehr als zehn Prozent.