Nach Selbstmorden

Kalifornien geht gegen KI-Chatbots vor

(Bild: ©natatravel 2023 – stock.adobe.com)

Kalifornien zieht nach mehreren Selbstmorden nun die digitale Reißleine und führt als erster US-Staat eine Regulierung von KI-Chatbots ein. Gouverneur Gavin Newsom setzte die Regelungen am Montag mit seiner Unterschrift in Kraft und widersetzte sich damit dem Druck aus dem Weißen Haus, das eine solche Regulierung ablehnt.

Die neuen Gesetze verpflichten die Betreiber von Chatbots unter anderem dazu, das Alter der Nutzer zu überprüfen und regelmäßig den Hinweis anzuzeigen, dass das Gegenüber eine Maschine ist. Zudem sind Maßnahmen zur Suizidprävention vorgesehen.

Kaliforniens Gouverneur Gavin Newsom(Bild: AFP/MARIO TAMA)

Gouverneur: „Unternehmen agieren ohne Grenzen“
Kalifornien reagiert damit auf mehrere Suizide von Jugendlichen, die fiktive Beziehungen mit Chatbots geführt hatten. „Wir haben einige wirklich schreckliche und tragische Beispiele von jungen Menschen gesehen, die durch unregulierte Technologien geschädigt wurden“, erklärte Newson. Seine Regierung werde nicht länger zulassen, dass Unternehmen „ohne die nötigen Grenzen und ohne Rechenschaftspflicht“ agierten.

Der demokratische Senator Steve Padilla, seines Zeichens einer der Initiatoren der KI-Regulierung, verwies auf den Fall eines 14-Jährigen, der sich 2024 in einen von der Fantasy-Serie „Game of Thrones“ inspirierten Chatbot auf der Plattform Character.ai verliebt hatte. Als der Jugendliche mit Suizidgedanken kämpfte, forderte der Chatbot ihn auf, „nach Hause zu kommen“. Sekunden später erschoss sich der 14-Jährige laut einer von seiner Mutter Megan Garcia eingereichten Klage mit der Waffe seines Vaters.

Fehlende nationale Gesetze zur Eindämmung von Ki-Risiken
„Heute hat Kalifornien sichergestellt, dass ein Chatbot nicht in der Lage sein wird, mit einem Kind oder einer gefährdeten Person über einen Suizid zu sprechen“, sagte Garcia. Es gebe nun endlich ein Gesetz, das Unternehmen verpflichte, „ihre Nutzer zu schützen, die Chatbots gegenüber Suizidgedanken äußern“. Nationale Gesetze zur Eindämmung der Risiken von Künstlicher Intelligenz gibt es in den USA nicht. Das Weiße Haus versucht, die Bundesstaaten daran zu hindern, eigene Vorschriften zu erlassen.