Offener Brief
KI: Über 1100 Experten warnen vor Kontrollverlust
Mehr als 1000 Mitarbeitende führender KI-Entwicklerfirmen sprechen sich dafür aus, die Voraussetzungen zum Bremsen des Fortschritts bei Künstlicher Intelligenz zu schaffen. Sie warnen vor einem Kontrollverlust und appellieren an Washington, sich an internationalen Bemühungen für technische und Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Unter den bisher 1171 Unterzeichnern auf pacingthefrontier.com sind führende Forscher und Manager etwa vom ChatGPT-Entwickler OpenAI, dem Konkurrenten Anthropic sowie dem Facebook-Konzern Meta und Google. Sie verweisen darauf, dass Software mit Künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln.
„Reales Risiko“
Schon jetzt werden große Teile des Programmiercodes in Tech-Unternehmen von KI-Software geschrieben – aber unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung Künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein „reales Risiko“, dass das Tempo „unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren“.
Abgestimmte internationale Anstrengungen seien nötig, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen, heißt es in dem Brief. Zudem fehlten aktuell noch die technischen Mittel und ein Regelwerk dafür.
KI-Hackerangriff als Weckruf
Der offene Brief folgt auf einen aufsehenerregenden Zwischenfall, der in großen Teilen der Tech-Branche als Weckruf gesehen wird. Ein KI-Modell von OpenAI verschaffte sich bei einem Test eigenständig Zugang zum offenen Internet und drang danach auf eigene Faust in Computersysteme einer anderen KI-Firma. Dabei agierte die Software wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus.
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.