Prinz Harry & Co.

Prominente fordern Verbot von KI-Superintelligenz

Eine sogenannte Superintelligenz, die den Menschen übertrifft, könnten laut OpenAI-CEO Sam Altman binnen weniger Jahre Realität werden.(Bild: Curioso.Photography – stock.adobe.com (KI-generiert))

Mehr als 700 Wissenschafter, Politiker und Prominente wie Prinz Harry oder Apple-Mitgründer Steve Wozniak fordern einen Entwicklungsstopp für KI, die menschliche Fähigkeiten übertreffen könnte. Diese sogenannte Superintelligenz müsse verboten werden, „bis diese Technologie zuverlässig sicher und kontrollierbar ist“, fordern die Unterstützer der Initiative.

Zu den Unterzeichnern der am Mittwoch veröffentlichten Erklärung der NGO Future of Life Institutes gehören der KI-Pionier und Physik-Nobelpreisträger Geoffrey Hinton, der bekannte KI-Wissenschaftler Yoshua Bengio von der Universität Montreal sowie der britische Unternehmer Richard Branson und der ehemalige Berater von US-Präsident Donald Trump, Steve Bannon. Auch Prominente wie der britische Prinz Harry und seine Frau Meghan sowie der KI-Experte des Vatikan, Paolo Benanti, haben unterschrieben.

Zwar wünschten sich viele Menschen leistungsstarke Programme, die die Wissenschaft oder Medizin voranbrächten oder für mehr wirtschaftliche Produktivität sorgten, erklärte der Mitbegründer des Future of Life Institutes, Anthony Aguirre. Aber das Wettrennen von KI-Unternehmen auf dem Weg zu KI-Technologien, die den Menschen übertreffen und ersetzen sollen, sei „sehr weit von dem entfernt, was die Öffentlichkeit will, Wissenschafter für sicher oder religiöse Anführer für richtig halten“, fügte er hinzu.

Ruf nach „roten Linien“
Während der UNO-Generaldebatte im September hatten Forscher und Beschäftigte aus dem KI-Sektor ebenfalls einen offenen Brief veröffentlicht, in dem sie Regierungen dazu aufforderten, bis Ende 2026 ein internationales Rahmenwerk für „rote Linien“ in Bezug auf KI zu beschließen.

Tech-Unternehmen wie Meta oder der ChatGPT-Entwickler OpenAI streben die Entwicklung von Superintelligenz in den kommenden Jahren an. OpenAI-Chef Sam Altman, dessen Unternehmen ChatGPT herausbrachte, hatte im September gesagt, dass Superintelligenz binnen der nächsten fünf Jahre geschaffen werden könnte.