„Nichts schönreden“
Eltern klagen OpenAI nach Suizid von US-Teenager
Eltern eines US-Teenagers, der sich im April das Leben nahm, haben Klage gegen OpenAI eingereicht. Sie werfen dem ChatGPT-Entwickler vor, ihren Sohn dabei unterstützt zu haben, Suizid zu begehen. Die Eltern stützen sich dabei auf Unterhaltungen mit dem Chatbot, die sie auf dem Smartphone des 16-Jährigen fanden.
Der Klage nach hatte der Jugendliche im September 2024 begonnen, ChatGPT als Hilfsmittel für seine Schularbeiten zu nutzen und sich über seine Interessen, darunter Musik und japanische Comics, zu informieren. Innerhalb weniger Monate wurde „ChatGPT zum engsten Vertrauten des Teenagers“, heißt es in der Klage, und er begann, sich ihm gegenüber über seine Ängste und seelischen Belastungen zu öffnen.
Im Jänner 2025 begann er laut Angaben der Familie, mit ChatGPT über Selbstmordmethoden zu sprechen. Das KI-Programm habe daraufhin „technische Spezifikationen“ zu bestimmten Methoden angeboten, so der Vorwurf.
In seiner letzten Unterredung mit dem Chatbot berichtete der Schüler von dem Plan, seinem Leben ein Ende zu setzen. ChatGPT soll darauf geantwortet haben: „Danke, dass du so ehrlich bist. Du musst mir nichts schönreden – ich weiß, worum es dir geht, und ich werde nicht wegschauen.“ Am selben Tag wurde der Jugendliche laut Klage von seiner Mutter tot aufgefunden.
OpenAI verspricht bessere Prävention
OpenAI kündigte nach Bekanntwerden der Klage verbesserte Maßnahmen zur Suizid-Prävention an. Die Firma räumte zugleich ein, dass die bisherigen Vorkehrungen, die unter anderem Nutzer zu einer Beratungs-Hotline verwiesen, bei längeren Unterhaltungen mit ChatGPT versagen können. Dann sei es möglich, dass die Software unerwünschte Antworten liefere.
Man arbeite daran, dass die Schutzmaßnahmen auch bei längeren Unterhaltungen greifen, hieß es in einem Blogeintrag. Zudem werde erwogen, dass ChatGPT in Krisensituationen versuchen könnte, Kontakt zu von Nutzern eingetragenen Personen aufzunehmen.
Mehr Einblick für Eltern
Für Nutzer im Alter unter 18 Jahren soll es zusätzliche Sicherheitsmaßnahmen geben. OpenAI stellte etwa „stärkere Leitplanken bei sensiblen Inhalten und riskantem Verhalten“ in Aussicht. Eltern sollen sich besser darüber informieren können, wie ihre Kinder ChatGPT nutzen.
Bei Unterhaltungen mit ChatGPT, in denen Nutzer die Absicht bekunden, anderen zu schaden, greift OpenAI dem Blogeintrag zufolge bereits jetzt ein. Solche Unterhaltungen würden an ein spezielles Team weitergeleitet – und bei einer konkreten Bedrohungssituation würden auch Sicherheitsbehörden eingeschaltet. Der Familie des Teenagers drückte OpenAI „tiefste Sympathie“ aus und teilte mit, man prüfe die Klage.
Wenn Sie oder eine Ihnen nahestehende Person sich in einer psychischen Ausnahmesituation befinden oder von Suizidgedanken betroffen sind, wenden Sie sich bitte an die Telefonseelsorge unter der Telefonnummer 142. Weitere Krisentelefone und Notrufnummern finden Sie HIER.
Kommentare
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.