12.12.2019 11:52 |

Experte für KI-Waffen:

„Wir werden einen islamischen Staat 2.0 sehen“

Künstliche Intelligenz, also mit riesigen Datensätzen trainierte Systeme zur Bildauswertung und Mustererkennung, gilt nicht nur in der Wirtschaft als wichtige Zukunftstechnologie, sondern auch beim Militär. Autonome Roboter und Drohnen und andere KI-Waffen werden von verschiedenen Ländern - unter anderem von Russland (siehe Video oben) - entwickelt. Daraus entstehen auch neue terroristische Risiken, befürchtet Sicherheitsexperte Marc Rickli vom Genfer Zentrum für Sicherheitspolitik.

Er warnte laut einem „Heise“-Bericht kürzlich auf der Digital Society Conference der European School of Management and Technology in Berlin davor, dass solche intelligenten Waffen in die falschen Hände gelangen könnten. „Wir werden einen Islamischen Staat 2.0 sehen“, prophezeit der Experte. Und der werde sehr wahrscheinlich mit KI-Waffen ausgerüstet sein.

Zivile Algorithmen können militärisch genutzt werden
Das sei angesichts dessen, dass Künstliche Intelligenz (KI) in Form von Algorithmen zur Muster- und Bilderkennung auch im zivilen Leben eine immer wichtigere Rolle spiele, kaum zu vermeiden. Viele Algorithmen, die auch militärisch genutzt werden können, seien öffentlich einsehbar. Dazu komme Technik wie Drohnen, die heute für jedermann frei verfügbar ist.

Dass eine Organisation wie der IS bei der Erprobung und Beschaffung neuer Waffen nicht zimperlich ist, hat die mittlerweile zurückgedrängte Terrororganisation in der Vergangenheit wiederholt bewiesen - etwa mit selbst gebauten Sprengstoffdrohnen oder Experimenten mit chemischen Kampfstoffen. Auch der Einsatz sozialer Medien für Propagandazwecke zeuge von einer gewissen Affinität zu neuen Technologien.

KI-Waffen entwickeln sich extrem schnell ...
Das Spezifikum von KI-Waffen sei, dass diese mit extremer Geschwindigkeit arbeiten und der, der sie verwende, mit ihnen schnell Grenzen überschreite. Da ihre Nutzung schwer vorhersehbar sei, könne man damit Abrüstungsverträge aushebeln und womöglich sogar einen Erstschlag durchführen. Weil alles, was vernetzt ist, auch manipuliert werden kann, ergeben sich daraus wiederum neue Bedrohungen. Das sei laut Rickli auch der Grund, wieso Staaten, die an KI-Waffen forschen, deren Existenz geheim halten oder sie als „saubere“ Waffe für Präzisionsschläge anpreisen.

... und können manipuliert werden
Möglichkeiten zur Manipulation von KI-Waffen gäbe es genug, erklärt John C. Mallery vom Labor für Künstliche Intelligenz der renommierten US-Technikuni MIT. So seien Systeme zur Bilderkennung recht einfach manipulierbar, sodass Objekte falsch eingeordnet werden. Zudem könne man die Datensätze, mit denen KI-Systeme etwa die Bilderkennung trainieren, manipulieren. Auch die Kommunikationsverbindungen einer KI-Waffe könne man stören.

Forscherin empfiehlt Selbstkontrolle
Angesichts dieser Gefahren sei es umso wichtiger, dass sich nicht nur Staaten, sondern auch private Firmen zur Selbstkontrolle verpflichten, meint Sophie-Charlotte Fischer, die am Mercator Kolleg autonome Waffensysteme erforscht. Sie denkt etwa an Amazon, Google, Microsoft oder Palantir, die in der KI-Forschung führend seien und damit eine gewisse Verantwortung hätten. 

Bei Google kam es deshalb erst vor einigen Monaten zu Protesten: Die Mitarbeiter gingen auf die Barrikaden, weil Google das Pentagon bei der Entwicklung autonomer Waffen unterstützen wollte. Google ruderte zurück, Microsoft und Amazon blieben im Rennen.

Dominik Erlinger
Dominik Erlinger
Kommentare

Liebe Leserin, lieber Leser,

die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.

Mit freundlichen Grüßen
das krone.at-Team

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Samstag, 25. Jänner 2020
Wetter Symbol

Produktvergleiche

Alle Produkte sehen
Ihre Cookies sind deaktiviert. Die Seite wird daher möglicherweise nicht korrekt angezeigt.