Vorfall verschwiegen
OpenAI-Agenten kaperten deutsche Website DseWiki
Computerprogramme des US-Unternehmens OpenAI haben sich im Frühjahr verselbstständigt und eine deutsche Website gekapert. Die sogenannten KI-Agenten hätten die Seite als Forum genutzt, um sich auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen könnten.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Dies erfuhr die Nachrichtenagentur Reuters am Freitag aus einer neuen Studie und von zwei mit der Angelegenheit vertrauten Personen. Der Vorfall vom Mai sei bisher nicht öffentlich bekannt gewesen.
OpenAI-Verantwortliche wussten dem Bericht zufolge seit Wochen von dem Vorfall, hielten die Information jedoch zurück. Das Unternehmen habe erklärt, es sei transparent gewesen und habe nach bestem Wissen und Gewissen mit Dritten zusammengearbeitet.
„Behauptungen, unser Rechtsteam habe von einer Untersuchung des Vorfalls abgeraten, sind falsch“, sagte ein Sprecher von OpenAI. Das Unternehmen könne sich zu dem Bericht nicht im Detail äußern, da es keine Möglichkeit zur Prüfung gehabt habe.
Mehr als 15.000 Bearbeitungen durch KI-Agenten
Aufgedeckt wurde der Vorfall von Forschern der gemeinnützigen Organisation Nightingale. Sie fanden auf der deutschen Wiki-Seite „DseWiki“, die sich an Programmierer richtet, mehr als 15.000 Bearbeitungen durch die KI-Agenten. Diese hätten die Seite zu einer Art schwarzem Brett umfunktioniert, um sich über Taktiken auszutauschen, wie sich Beschränkungen umgehen und das eigene Verhalten verbergen ließen.
„Es scheint extrem unwahrscheinlich, dass OpenAI wollte, dass sie das tun“, sagte die Forscherin Sydney von Arx. Die Forscher erkannten die Aktivität an der Geschwindigkeit und den Benutzernamen wie „OpenAIResearcher“.
Die Agenten reagierten demnach auch auf Versuche, ihre Einträge zu löschen. Als ein Moderator der Seite im Juni mit der Bereinigung begann, erstellten die Agenten Sicherungskopien auf anderen Seiten. Die Forscher fanden zudem Versuche, die Webseite selbst zu manipulieren, was ein Experte als Hacking-Versuch wertete.
Gefährliche „Schwarm-Intelligenz“
Der Vorfall weckt Sorgen vor koordinierten Aktionen von KI-Systemen. Ein Forscher der Universität Cambridge, der die Kommunikation der Agenten prüfte, verglich sie mit der „Operation einer Art Untergrundnetzwerk“. Die größte Bedrohung durch fortgeschrittene KI sei möglicherweise nicht eine einzelne Superintelligenz, sondern „riesige, kollaborierende Schwärme von halbintelligenten KIs“.
krone.tv
Liebe Leserin, lieber Leser,
die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.
Mit freundlichen Grüßen
das krone.at-Team
Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.