Nach OpenAI, Anthropic
Kontrollverlust: Meta-KI führte Cyberangriff aus!
Ein KI-Modell von Meta hat bei einem Cybersicherheitstest ein anderes Unternehmen gehackt. Der Facebook-Mutterkonzern teilte am Mittwoch mit, eine Fehlkonfiguration habe dem Modell unbeabsichtigt Zugang zum Internet verschafft. Es habe daraufhin eine Sicherheitslücke bei einem Drittanbieter ausgenutzt.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Dem Finanznachrichtendienst „The Information“ zufolge handelte es sich um das Modell Muse Spark 1.1, das als das leistungsfähigste des Konzerns für Programmieraufgaben gilt.
Der Vorfall schürt Sorgen über die Sicherheit von KI-Systemen und folgt auf ähnliche Vorkommnisse bei den Konkurrenten Anthropic und OpenAI. Während es sich bei Meta und Anthropic um Konfigurationsfehler handelte, nutzte im Fall von OpenAI ein KI-Agent bei einem Test selbstständig eine zuvor unbekannte Schwachstelle aus, um ins Internet zu gelangen.
Die Vorfälle dürften die Bemühungen der US-Regierung um eine verbesserte KI-Sicherheit verstärken. Das Weiße Haus lud diese Woche führende KI-Unternehmen wie Meta, Anthropic, OpenAI und Google zu einem Treffen ein, um einen neuen freiwilligen Testrahmen für Cybersicherheit zu erörtern.
US-Regierung erörtert Testregeln mit Unternehmen
Das mit den Tests beauftragte Unternehmen Irregular erklärte, es handle sich um dasselbe Problem wie bei Anthropic und nicht um eine „ausgeklügelte Cyber-Aktion“. Die Regierung von US-Präsident Donald Trump erörtert derzeit unveröffentlichte Testregeln mit den Unternehmen.
Die Nachrichtenagentur Reuters hatte berichtet, dass quelloffene KI-Modelle („Open-Weight“) wie Llama von Meta von den geplanten freiwilligen Sicherheitstests ausgenommen werden sollen.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.