UN gespalten:

Sollen autonome “Killer-Roboter” verboten werden?

Stolz präsentiert der Vertreter eines Rüstungskonzerns die Minidrohne mit Gesichtserkennung und Sprengladung, mit der gezielt Personen ausgeschaltet werden können. Doch etwas geht schief, die Waffe gerät in die falschen Hände - und zieht eine Schneise von Tod und Verderben durch die Stadt. Klingt nach der Handlung für einen Science-Fiction-Film, ist aber in Wahrheit der Inhalt eines Horrorvideos, das bei der Abrüstungskonferenz der Vereinten Nationen in Genf gezeigt wurde. Das Ziel: Ein Verbot autonomer Waffensysteme.

Den vom US-Technologiemogul Elon Musk mitfinanzierten Kurzfilm "Slaughterbots" haben laut einem Bericht des IT-Portals "Heise" Aktivisten der NGO "Stop Autonomous Weapons" gedreht und Anfang der Woche bei der Abrüstungskonferenz der UN in Genf vorgeführt.

(Bild: Stop Autonomous Weapons)

Drastisch in der Darstellung und klar in der Botschaft, wollen die Aktivisten mit ihrem Video für ein Verbot von Waffen mit künstlicher Intelligenz eintreten - also beispielsweise autonome Drohnen, aber auch alle anderen Spielarten von Kampfrobotern, die ohne menschliches Zutun töten.

Verbot durch UN nicht sehr wahrscheinlich
Mit dem Video wollen die Aktivisten wachrütteln. Denn bislang erscheint ein Verbot autonomer Waffen durch die UN nicht besonders wahrscheinlich. Dem Bericht zufolge verstricken sich Verhandler in Detailfragen, drohen inmitten von Diskussionen, was denn künstliche Intelligenz überhaupt ist, das große Ganze aus den Augen zu verlieren.

Auch die US-Armee greift auf Reaper-Drohnen zurück.

(Bild: AFP/GETTY IMAGES NORTH AMERICA)

Da wird es schon als Erfolg gewertet, wenn Deutschland und Frankreich sich auf ein Positionspapier mit einer vorläufigen Begriffsbestimmung einigen und einen Verhaltenskodex für den Einsatz autonomer Waffen anstreben, der zumindest menschliche Kontrolle fordert. Ein deutscher Experte: "Dass einigen Staaten dieser Verlust an Diskussionsfokus und das Reden über 'KI in voller Breite' nicht ungelegen kommt, das ist ein offenes Geheimnis."

KI-Experten fordern Verbot von "Killer-Robotern"
Dabei wäre das Thema aus Sicht von Wissenschaftlern und KI-Experten höchst brisant. Erst vor einigen Wochen haben 116 der weltweit angesehensten Fachleute in diesem Bereich - unter ihnen Musk, der legendäre Physiker Stephen Hawking und Mustafa Suleyman, der Chef der KI-Sparte bei Google - sogar einen offenen Brief an die UN geschickt, in dem sie explizit jenes Verbot autonomer Waffen fordern, das nun mit mäßigem Erfolg debattiert wird.

(Bild: facebook.com/terminator2)

Die KI-Experten warnen in ihrem Brief vor den Gefahren autonomer Waffen, die zu "Waffen des Grauens" werden könnten. Zu Waffen, "die Despoten und Terroristen gegen unschuldige Bevölkerungen einsetzen" oder zu Waffen, die - wenn sie gehackt würden - außer Kontrolle geraten könnten. Der Staatengemeinschaft bleibe nicht mehr viel Zeit: "Ist diese Büchse der Pandora erst geöffnet, wird es schwer, sie wieder zu schließen", mahnen die Unterzeichner.