Offener Brief
Forscher fordern strengere Überwachung von KI
Hunderte KI-Forscher weltweit drängen in einem Offenen Brief auf eine strengere Überwachung bestimmter KI-Modelle. Ohne rasche Änderungen bei Entwicklung und Einsatz solcher Systeme könnten sich Cyberangriffe wie der auf die Online-Plattform „Hugging Face“ wiederholen und größere Schäden an kritischen Infrastrukturen verursachen, warnten sie in dem am Dienstag veröffentlichten Brief.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Zu den Unterzeichnern gehören der kanadische KI-Pionier Yoshua Bengio sowie der britische Informatiker und Nobelpreisträger Geoffrey Hinton. Die rund 300 Experten aus 27 Staaten fordern unter anderem eine unabhängige Überprüfung neuer KI-Modelle auf mögliche Risiken. Für Tests müssten darüber hinaus international gültige Standards definiert werden, damit sich Systeme nicht unbefugt Zugang zum Internet verschaffen können. Daher sollte bei entsprechenden Programmierumgebungen das sogenannte Airgapping, die physische Trennung vom Internet, voreingestellt sein.
Gegen reine Lippenbekenntnisse
Organisationen müssten zudem dazu verpflichtet werden, diese Maßnahmen umgehend umzusetzen, hieß es in dem Brief weiter. Freiwillige Zusagen, wie sie US-Präsident Donald Trump mit Technologiekonzernen vereinbart hat, reichten nicht aus. Die Experten sprachen sich zudem für eine offizielle Meldepflicht aus, wenn KI-Anwendungen außer Kontrolle geraten.
Am Montag hatte Microsoft-Präsident Brad Smith in einem TV-Interview ebenfalls für eine schärfere Regulierung der KI-Branche plädiert. Haushaltsgeräte oder Lebensmittel unterlägen einer engmaschigeren Überwachung als diese Technologie. Auslöser der aktuellen Debatte ist eine Serie von Cyberangriffen autonom agierender sogenannter KI-Agenten. Einige Forscher befürchten sogar die Auslöschung der Menschheit.
KI-Modelle könnten sich ohne Cloud vervielfältigen
Nur wenige Stunden vor Veröffentlichung des Offenen Brief hatte der US-KI-Entwickler Anthropic gewarnt, dass sich kleinere KI-Modelle in naher Zukunft auch ohne Zugriff auf Rechenzentren selbst vervielfältigen könnten. In Versuchen hätten die Anwendungen ihren Programmcode eigenständig auf unzureichend abgesicherte smarte Haushaltsgeräte kopiert und sich in Netzwerken ausgebreitet.
Die KI-Modelle kopierten sich demnach auf moderne Fernseher mit dem Betriebssystem Android und andere vernetzte Geräte. Zwar hätten sich die Programme bisher nur in einem vereinfachten Testaufbau erfolgreich vervielfältigen können, bei der aktuellen Entwicklungsgeschwindigkeit für Künstliche Intelligenz könnte ihnen dies jedoch innerhalb der kommenden Monate auch unter realen Bedingungen gelingen, so Anthropic. Dies erschwere die Abschaltung außer Kontrolle geratener Software, weil es keine zentrale Stelle hierfür gebe.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.