Erneuter Ausbruch
„Große Besorgnis“ nach KI-Angriff in Australien
Während Technologiebosse vor den Risiken der Künstlichen Intelligenz „für die gesamte Menschheit“ warnen, häufen sich tatsächlich Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrechen und andere Plattformen oder Unternehmen attackieren. Nun ist ein brisanter Fall aus Australien bekannt geworden.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Wie Australiens Premier Anthony Albanese am Mittwoch am Rande der UNO-Vollversammlung erklärte, war ein autonomes KI-Programm des US-Unternehmens OpenAI auf eine Website der Regierung eingedrungen. Der KI-Agent habe auf öffentliche und nicht öffentliche Dateien im Gesundheits- und im Kriminalstatistikbereich zugegriffen.
Australische Behörden viel später informiert
Albanese zufolge hatte sich der Vorfall bereits im Juni ereignet. Doch erst im September erfuhren offenbar die australischen Behörden darüber. Er habe mit OpenAI-Chef Sam Altman geredet, „um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen“, so Albanese weiter. Der Premierminister erklärte, es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der Regierungsbehörden. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden.
Die Ermittlungen dazu dauerten Albanese zufolge an. Unter anderem wollten die Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten. Dessen ungeachtet sei diese Situation „offensichtlich inakzeptabel“.
Anthropic-Chef: „Werden das Tempo drosseln“
Zuvor hatten Technologiebosse bei einer Sitzung des UNO-Sicherheitsrats zu KI erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI-Chef Altman sagte am Mittwoch in New York, das aktuelle Stadium der KI-Entwicklung erfordere „äußerste Vorsicht“. Die Branche dürfe „nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln“, sagte er. Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: „Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist.“
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.