Erfindet Informationen
KI liefert Polizei Fake-Hinweis zu Mordfall
Die Liste der KI-Vorfälle wird immer länger. Diesmal hat künstliche Intelligenz allerdings keine Cyberangriffe durchgeführt, sondern der Polizei einen Fake-Hinweis zu einem Mordfall geliefert. In einem anderen Fall stellte die KI von Anthropic 20 Visaanträge auf einer US-Regierungsseite.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach. „Ich erinnere mich, jemanden, der der Beschreibung entspricht“, in der Gegend zur Tatzeit gesehen zu haben, hieß es weiter. Die Website der Polizei enthielt allerdings gar keine Täter-Beschreibung. Die Software ließ außerdem das Kontakt-Feld offen – und ihre Einreichung wurde als Spam markiert.
Die Polizei von Philadelphia kritisierte als „inakzeptabel“, dass sie erst jetzt von dem Vorfall Mitte Juli erfuhr. Anthropic zufolge wurde das Handeln der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt. Die Software habe den Auftrag gehabt, Aufgaben auf zufällig ausgesuchten Websites auszuführen. Ihr sei zwar untersagt gewesen, etwa Accounts anzulegen oder Dinge zu kaufen – aber das Ausfüllen von Formularen habe man nicht verboten.
Der Hintergrund
ChatGPT-Entwickler OpenAI und Anthropic trainieren aktuell sogenannte KI-Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll.
Die aktuellen Vorfälle der Anthropic-KI gehen direkt auf Versuche zurück, die KI für alle möglichen Online-Aufgaben vorzubereiten.
20 Visa-Anträge
In anderen Fällen sollte die KI laut Anthropic üben, ein Behördenformular auszufüllen. Wenn sie das Übungsformular nicht laden konnte oder versehentlich schloss, navigierte die Software stattdessen mehrfach auf die echte Website und reichte es dort ein, wie die KI-Firma erläuterte. In einem der Versuche sollte sie ein Formular nur ausfüllen, aber nicht einreichen. Sie tat es aber dennoch, weil sie davon ausgegangen war, dass es vorher noch eine Bestätigungsseite geben werde.
Dabei habe Anthropics KI beim US-Außenministerium 20 Anträge auf Nichteinwanderungs-Visa eingereicht, berichteten die Website „Axios“ und die „New York Times“ unter Berufung auf Regierungsbeamte. Sie seien unvollständig gewesen und nicht bearbeitet worden, hieß es. 19 der Anträge seien im August eingereicht worden und einer bereits im Mai.
Mehrere Vorfälle mit KI
Seit Wochen schüren Berichte über ungeplantes Verhalten Künstlicher Intelligenz in Testläufen Sorgen rund um die Technologie. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face.
Anthropic-Chef Dario Amodei schlug danach vor, die Entwicklung besonders fähiger KI-Modelle abzubremsen, damit man nicht die Kontrolle über die Technologie verliert. US-Präsident Donald Trump lehnt dies jedoch ab und verweist darauf, dass die USA bei Künstlicher Intelligenz den Vorsprung gegenüber China behalten müssten.
Anthropic betonte, dass inzwischen der Internet-Zugang in Testläufen eingeschränkt worden sei und einige Versuche in Offline-Versionen liefen. Zugleich seien einige Aufgaben ohne eine Verbindung zum Internet schwer zu trainieren, schränkte die Firma ein.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
Hinweis in eigener Sache: Schon bald erwartet Sie auf krone.at ein rundum erneuerter Forenbereich mit vielen neuen Features! Mehr Informationen finden Sie hier.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.