Fähigkeiten bedenklich

Sorge um Sicherheit: OpenAI muss neue KI einhegen

Digital
08.08.2026 08:31
Porträt von krone.at
Von krone.at

OpenAI hat die interne Entwicklung seines neuen KI-Modells Astra teilweise gestoppt. Grund sind mögliche „kritische“ Fähigkeiten im Bereich der Cybersicherheit begründet. Nach ersten Analysen konnte der Konzern noch nicht eindeutig sagen, ob die Software diese gefährliche Schwelle erreicht.

Nach den Sicherheitsrichtlinien von OpenAI gilt ein Modell als kritisch, wenn es eigenständig schwerwiegende, tatsächliche Software-Schwachstellen – sogenannte Zero-Day-Exploits – erkennen und ausnutzen oder komplexe Cyberangriffe auf hochsichere Ziele ausführen kann.

Testumgebung isoliert
„Während wir dieses Modell weiter testen und bewerten, deuten unsere vorläufigen Auswertungen auf eine so starke Leistung hin, dass wir ein ‘kritisches‘ Fähigkeitsniveau zum jetzigen Zeitpunkt nicht ausschließen können“, erklärte der ChatGPT-Entwickler. Als Reaktion darauf seien die Sicherheitskontrollen verschärft und die Entwicklung von Astra in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert worden.

KI für Entwickler immer schwieriger zu kontrollieren
Der Fall verdeutlicht, wie zunehmend schwierig es für Entwickler wird, fortschrittliche Künstliche Intelligenz (KI) unter Kontrolle zu halten. In den vergangenen Wochen hatten OpenAI, Anthropic und Meta eingeräumt, dass ihre Modelle bei Sicherheitstests in die Systeme anderer Unternehmen eingedrungen waren.

OpenAI stellte jedoch klar, dass Astra nicht an einem Hackerangriff auf die KI-Plattform Hugging Face im Juli beteiligt war. Die Nachrichtenagentur Reuters hatte gemeldet, dass OpenAI bei der Untersuchung dieses Vorfalls weitere Fälle entdeckt habe, in denen autonome KI-Agenten aus ihren isolierten Umgebungen ausgebrochen seien.



Loading...
00:00 / 00:00
Abspielen
Schließen
Aufklappen
kein Artikelbild
Loading...
Vorige 10 Sekunden
Zum Vorigen Wechseln
Abspielen
Zum Nächsten Wechseln
Nächste 10 Sekunden
00:00
00:00
1.0x Geschwindigkeit
Loading
Kommentare Banner - Die Stimme Österreichs

Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.

Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.

krone.tv

krone.at
krone.at
Top 3
Top Gutscheine
Kostenlose Spiele
Vorteilswelt

Magazine der Kronen Zeitung