Tool höchst umstritten
Eingeschränkte Version von Hacker-KI Mythos kommt
Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht. Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag mitteilte. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.
Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell. „Ohne Schutzmaßnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten“, räumte das Unternehmen mit Sitz in San Francisco ein.
Anthropic verweist auf Testläufe zu Sicherheitslücken
Die Version Fable 5 beantwortet Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte. Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war. Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hieß es dazu.
Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt. Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.
Streit mit Pentagon um KI-Nutzung
Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.
Der Konzern erklärte, er wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen sich juristisch wehrt.
Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei „wahrscheinlich sinnvoll“, damit Forschung und Gesellschaft Schritt halten könnten. An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein. Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI. Anthropic wurde zuletzt mit 965 Milliarden Dollar (836,83 Milliarden Euro) bewertet.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.