Experte für KI-Waffen:

„Wir werden einen islamischen Staat 2.0 sehen“

Digital
12.12.2019 11:52

Künstliche Intelligenz, also mit riesigen Datensätzen trainierte Systeme zur Bildauswertung und Mustererkennung, gilt nicht nur in der Wirtschaft als wichtige Zukunftstechnologie, sondern auch beim Militär. Autonome Roboter und Drohnen und andere KI-Waffen werden von verschiedenen Ländern - unter anderem von Russland (siehe Video oben) - entwickelt. Daraus entstehen auch neue terroristische Risiken, befürchtet Sicherheitsexperte Marc Rickli vom Genfer Zentrum für Sicherheitspolitik.

Er warnte laut einem „Heise“-Bericht kürzlich auf der Digital Society Conference der European School of Management and Technology in Berlin davor, dass solche intelligenten Waffen in die falschen Hände gelangen könnten. „Wir werden einen Islamischen Staat 2.0 sehen“, prophezeit der Experte. Und der werde sehr wahrscheinlich mit KI-Waffen ausgerüstet sein.

Zivile Algorithmen können militärisch genutzt werden
Das sei angesichts dessen, dass Künstliche Intelligenz (KI) in Form von Algorithmen zur Muster- und Bilderkennung auch im zivilen Leben eine immer wichtigere Rolle spiele, kaum zu vermeiden. Viele Algorithmen, die auch militärisch genutzt werden können, seien öffentlich einsehbar. Dazu komme Technik wie Drohnen, die heute für jedermann frei verfügbar ist.

Dass eine Organisation wie der IS bei der Erprobung und Beschaffung neuer Waffen nicht zimperlich ist, hat die mittlerweile zurückgedrängte Terrororganisation in der Vergangenheit wiederholt bewiesen - etwa mit selbst gebauten Sprengstoffdrohnen oder Experimenten mit chemischen Kampfstoffen. Auch der Einsatz sozialer Medien für Propagandazwecke zeuge von einer gewissen Affinität zu neuen Technologien.

KI-Waffen entwickeln sich extrem schnell ...
Das Spezifikum von KI-Waffen sei, dass diese mit extremer Geschwindigkeit arbeiten und der, der sie verwende, mit ihnen schnell Grenzen überschreite. Da ihre Nutzung schwer vorhersehbar sei, könne man damit Abrüstungsverträge aushebeln und womöglich sogar einen Erstschlag durchführen. Weil alles, was vernetzt ist, auch manipuliert werden kann, ergeben sich daraus wiederum neue Bedrohungen. Das sei laut Rickli auch der Grund, wieso Staaten, die an KI-Waffen forschen, deren Existenz geheim halten oder sie als „saubere“ Waffe für Präzisionsschläge anpreisen.

... und können manipuliert werden
Möglichkeiten zur Manipulation von KI-Waffen gäbe es genug, erklärt John C. Mallery vom Labor für Künstliche Intelligenz der renommierten US-Technikuni MIT. So seien Systeme zur Bilderkennung recht einfach manipulierbar, sodass Objekte falsch eingeordnet werden. Zudem könne man die Datensätze, mit denen KI-Systeme etwa die Bilderkennung trainieren, manipulieren. Auch die Kommunikationsverbindungen einer KI-Waffe könne man stören.

Forscherin empfiehlt Selbstkontrolle
Angesichts dieser Gefahren sei es umso wichtiger, dass sich nicht nur Staaten, sondern auch private Firmen zur Selbstkontrolle verpflichten, meint Sophie-Charlotte Fischer, die am Mercator Kolleg autonome Waffensysteme erforscht. Sie denkt etwa an Amazon, Google, Microsoft oder Palantir, die in der KI-Forschung führend seien und damit eine gewisse Verantwortung hätten. 

Bei Google kam es deshalb erst vor einigen Monaten zu Protesten: Die Mitarbeiter gingen auf die Barrikaden, weil Google das Pentagon bei der Entwicklung autonomer Waffen unterstützen wollte. Google ruderte zurück, Microsoft und Amazon blieben im Rennen.

Loading...
00:00 / 00:00
play_arrow
close
expand_more
Loading...
replay_10
skip_previous
play_arrow
skip_next
forward_10
00:00
00:00
1.0x Geschwindigkeit
explore
Neue "Stories" entdecken
Beta
Loading
Kommentare

Da dieser Artikel älter als 18 Monate ist, ist zum jetzigen Zeitpunkt kein Kommentieren mehr möglich.

Wir laden Sie ein, bei einer aktuelleren themenrelevanten Story mitzudiskutieren: Themenübersicht.

Bei Fragen können Sie sich gern an das Community-Team per Mail an forum@krone.at wenden.

(Bild: krone.at)
(Bild: krone.at)
Kreuzworträtsel (Bild: krone.at)
(Bild: krone.at)



Kostenlose Spiele