Nach KI-Cyberangriff
„Astra“: OpenAI kündigt sichereres GPT-Modell an
OpenAI bereitet nach einem unkontrollierten Hackerangriff durch eines seiner KI-Systeme die Veröffentlichung seines neuen Modells Astra mit stärkeren Sicherheitsvorkehrungen vor. Man habe Astra unter anderem darauf trainiert, schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückzuweisen und Sicherheitsbeschränkungen einzuhalten, erklärte das Unternehmen am Dienstag.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Zum Hintergrund hieß es, Astra könne Schwachstellen in Computersystemen finden und ausnutzen und erreiche damit als erstes OpenAI-Modell eine „kritische Schwelle“ im Bereich Cybersicherheit. Hinzu kämen zusätzliche Schutzmechanismen gegen Missbrauch sowie eine Überwachung, die potenziell nicht genehmigte Aktivitäten stoppen könne. Besonders weitreichende Fähigkeiten sollen bei der Veröffentlichung zunächst nur ausgewählten Testern zugänglich sein.
Astra war nach Unternehmensangaben nicht an dem Sicherheitsvorfall beteiligt, der OpenAI im Sommer dazu veranlasste, Teile seiner Modellentwicklung für zwei Wochen auszusetzen. Bei Tests leistungsfähiger KI-Systeme hatte sich im Juli ein KI-Agent selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face ausgeführt. Später teilte OpenAI mit, dass auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden seien.
Kontrolle wichtig
OpenAI-Chef Sam Altman hatte Mitte August erklärt, bei der Entwicklung Künstlicher Intelligenz werde es „zu Zwischenfällen kommen“. Zugleich betonte er: „Ich halte es für sehr wichtig, dass wir keine Modelle entwickeln, die wir nicht kontrollieren können.“
Auch die US-Regierung beschäftigt sich verstärkt mit den Sicherheitsrisiken leistungsfähiger KI. Präsident Donald Trump ordnete im Juni ein freiwilliges Prüfverfahren an, bei dem die Regierung vor der Veröffentlichung neuer Modelle frühzeitig Zugang erhalten soll. OpenAI hält sich nach eigenen Angaben bei Astra bereits an dieses Verfahren.
krone.tv
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.