Unabsehbare Folgen

Gruppe um Musk fordert Moratorium bei KI-Forschung

Technologiemagnat Elon Musk fordert angesichts der rasanten Entwicklung klare Regeln für KI-Algorithmen.

(Bild: APA/AFP/JIM WATSON)

Elon Musk und viele Expertinnen und Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenzen gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für die Technologie zu schaffen, hieß es in einem am Mittwoch veröffentlichten offenen Brief der Organisation Future of Life. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.“

Neben dem Tesla-Chef Musk unterzeichneten mehr als 1.000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind. Die Verfasser des Briefs wiesen auf die Gefahren sogenannter Generativer KI wie ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen.

Allerdings sei diese Technologie inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten. Dadurch könnten die Informationskanäle mit Propaganda und Unwahrheiten geflutet und selbst erfüllende Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an Künstlicher Intelligenz (KI) der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen.

Das KI-Tool ChatGPT erzeugt stilistisch erstaunlich hochwertige Texte. Die Fakten darin stimmen aber nicht unbedingt.

(Bild: AFP)

Wettrüsten zwischen Google und Microsoft
Seit der Vorstellung von ChatGPT im November 2022 liefern sich viele Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI. Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie sprudelnde Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen.

Future of Life zufolge hat Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, den Aufruf nicht unterschrieben. Elon Musk gehört zwar zu den Mitgründern dieser Firma, hat sich aber wiederholt kritisch zu diesem Thema geäußert und staatliche Regulierung gefordert.

„Der Wortlaut ist nicht perfekt, aber der Geist ist richtig: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen“, sagte Gary Marcus, ein emeritierter Professor der New York University und Unterzeichner des offenen Briefs. Generative KI könne ernsthaften Schaden anrichten. „Die großen Akteure machen immer größere Geheimnisse um ihre Aktivitäten, was es der Gesellschaft erschwert, sich gegen mögliche Gefahren zu wehren.“