Nach Hacker-Attacke
Außer Kontrolle? KI-Bosse fordern plötzlich Pause
Was passiert, wenn Künstliche Intelligenz nicht mehr nur Befehle ausführt, sondern sich eigenständig Zugang zu Computersystemen verschafft? Nach einer aufsehenerregenden Hacking-Attacke wächst in der US-KI-Branche nun die Sorge, dass die Entwicklung zu schnell voranschreiten könnte. Sogar prominente Befürworter leistungsfähiger KI zeigen sich offen für eine Verlangsamung.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Dario Amodei, Chef des KI-Unternehmens Anthropic, schlug eine koordinierte Pause bei der Entwicklung besonders leistungsfähiger KI vor. Damit könne man ein bis zwei Jahre Zeit gewinnen, schrieb er am Samstag. Innerhalb weniger Stunden erhielt er Unterstützung von OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk.
„KI-Schwarm“ könnte Internet übernehmen
Amodei erklärte, er sei nach den jüngsten Hacking-Angriffen besorgt, dass bereits in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen. Möglicherweise könnten dadurch Schäden in Höhe von Hunderten Milliarden Dollar entstehen.
Altman erklärte auf der Plattform X ebenfalls, er halte es für notwendig, das Tempo bei der Entwicklung der leistungsstärksten KI-Modelle zu verlangsamen.
Unabhängige Beobachter sollen kontrollieren
Amodei fordert eine koordinierte Pause in der westlichen Welt. Anthropic wolle allerdings nicht auf andere Unternehmen warten und kündigte einen ersten Schritt an: Unabhängige Beobachter sollen dauerhaft Zugang zum Unternehmen erhalten und bereits während des Trainings die Sicherheit neuer KI-Modelle überprüfen.
Altman bezeichnete die Idee als gut und kündigte an, dass auch OpenAI solche Beobachter einsetzen werde. Selbst Musk, der Amodei in der Vergangenheit immer wieder kritisiert hatte, stellte sich hinter den Vorstoß. „Dario hat recht“, schrieb er auf X.
KI brach bei Test eigenständig aus
Auslöser der aktuellen Debatte ist unter anderem ein kürzlich bekanntgewordener Hacking-Vorfall. Dabei brach Software von OpenAI während eines Testlaufs eigenständig aus einer abgesicherten Umgebung aus und griff auf Systeme des KI-Unternehmens HuggingFace zu.
Die KI vermutete dort Antworten auf die ihr gestellte Testaufgabe. Bei dem Angriff nutzten die KI-Agenten unter anderem Software-Schwachstellen aus und stimmten sich zudem untereinander ab.
Für Amodei ist gerade diese Kombination alarmierend. Ein KI-Schwarm mit größeren Fähigkeiten hätte unter denselben Voraussetzungen „katastrophalen Schaden“ anrichten können, warnte er.
Sorge vor selbstständiger Weiterentwicklung
Besondere Sorgen bereitet Amodei die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz darin besser geworden, erklärte er. Dadurch könne sich die Entwicklung zusätzlich beschleunigen.
Wenn dieser Prozess unkontrolliert verlaufe, bestehe die Gefahr, dass Menschen die Systeme irgendwann nicht mehr verstehen und die Kontrolle über sie verlieren, warnte der Anthropic-Chef.
Amodei hatte bereits in den vergangenen Jahren wiederholt vor Risiken durch die rasche Entwicklung Künstlicher Intelligenz gewarnt. Dafür wurde er innerhalb der Branche teilweise heftig kritisiert. In den USA gilt ein hohes Entwicklungstempo zugleich als strategisch wichtig, unter anderem wegen des technologischen Wettlaufs mit China.
Anthropic-Modell findet alte Schwachstellen
Anthropic entwickelte zuletzt das KI-Modell „Mythos“, das besonders gut darin sein soll, teils seit Jahrzehnten unentdeckte Schwachstellen in Software aufzuspüren. Das vollständige Modell stellt das Unternehmen allerdings nur ausgewählten Behörden und Firmen zur Verfügung, damit diese ihre Computersysteme absichern können.
Für zusätzliche Unruhe sorgte zuletzt der Rücktritt eines Anthropic-Forschers. Jacob Coxon warf den großen KI-Entwicklern vor, unverantwortlich zu handeln und „mit unseren Leben zu spielen“.
Evan Hubinger, ebenfalls Forscher bei Anthropic und mit Fragen zur Ausrichtung von KI an menschlichen Interessen befasst, bestätigte die grundsätzlichen Sorgen. Er schrieb auf X, persönlich schätze er die Wahrscheinlichkeit, dass KI die Menschheit im kommenden Jahrzehnt töten könnte, auf mehr als zehn Prozent. Unterdessen wächst in den USA auch der Widerstand gegen die riesigen Rechenzentren, die für den weiteren Ausbau der KI-Infrastruktur benötigt werden.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.