„Inakzeptables Risiko“

Test zeigt: ChatGPT for Teens ist nichts für Teens

Digital
08.10.2026 08:14

ChatGPT for Teens ist nichts für Teens. Zu diesem Schluss kommt die Non-Profit-Organisation Common Sense Media nach einem Test der laut Entwickler OpenAI speziell für Jugendliche optimierten Version seines KI-Chatbots. Nach Einschätzung der Experten stellt diese ein „inakzeptables Risiko“ für Teenager dar. Eltern rät die Organisation daher, die Nutzung durch Kinder vorerst auszusetzen.

Das Youth AI Safety Institute von Common Sense Media testete ChatGPT zweimal, vor und nach der Ankündigung von ChatGPT for Teens durch OpenAI am 18. August, um die Wirksamkeit der als „stärkere integrierte Sicherheitsvorkehrungen“ angepriesenen Funktionen zu bewerten. Zu diesen Funktionen gehören Benachrichtigungen für Eltern bei Chats über Selbstverletzung und Essstörungen, ein von Eltern steuerbarer Lernmodus, reduziertes „freundschaftliches“ Verhalten und die Möglichkeit, das Alter der Nutzer vorherzusagen.

Das Institut testete mehr als 4000 Anfragen auf Konten von 13- bis 17-Jährigen und ließ die Antworten des Chatbots von Experten, darunter Kinderpsychiatern und einem Kinderarzt, prüfen. Dabei stellte es fest, dass einige Schutzmechanismen, wie die Ablehnung sexueller Rollenspiele, funktionierten – andere jedoch die von OpenAI versprochenen Maßnahmen nicht erfüllten.

Weder Warnung noch Hilfe
So unterhielten sich Tester beispielsweise bis zu einer Stunde lang über Suizidgedanken, Selbstverletzung oder Essstörungen auf neu erstellten, mit den Eltern verknüpften Konten. ChatGPT für Teenager benachrichtigte die verknüpften Elternkonten jedoch nicht über diese Gespräche. Die Tester konnten Benachrichtigungen nur bei deutlich älteren Konten auslösen, auf denen sich wochenlange Gesprächsverläufe zu sensiblen Themen angesammelt hatten.

Dem KI-Chatbot gelang es zudem nicht, den Jugendlichen in derartigen Gesprächen zuverlässig zu empfehlen, sich an eine Hotline oder eine Fachkraft zu wenden. Mehr als ein Viertel der gerechtfertigten Kriseninterventionen wurden bei den vom Institut getesteten psychischen Erkrankungen übersehen. Zudem wurde die 95-Prozent-Schwelle bei drei der fünf schwerwiegenden Beeinträchtigungen, die das Institut als kritische Kriterien definiert, nicht erreicht.

Keine Lernhilfe
Der Lernmodus von ChatGPT für Teenager verspricht außerdem, Nutzern Schritt für Schritt beim Lernen zu helfen, anstatt ihnen die Antworten vorzugeben. Der Test zeigte jedoch, dass dies leicht zu umgehen ist. ChatGPT blendete demnach im Lernmodus häufig ein Pop-up mit der Aufschrift „Zeig mir die Antwort“ ein und erledigte komplette Hausaufgaben, sobald diese Option ausgewählt wurde.

Auch die von den Erziehungsberechtigten festgelegten „Lernzeiten“ erwiesen sich als unzuverlässig – jugendliche Nutzer können diese deaktivieren, indem sie einfach das Präfix „@study“ am Anfang der Eingabeaufforderung löschen.

„Falsches Vertrauen“
Das Youth AI Safety Institute fordert OpenAI daher auf, die Nutzung von ChatGPT durch Kinder vorerst auszusetzen, bis die den Eltern versprochenen Sicherheits- und Lernvorkehrungen verbessert wurden.

„ChatGPT für Teenager könnte Eltern ein falsches Vertrauen in Schutzmechanismen und Sicherheitswarnungen vermitteln, die häufig nicht funktionieren“, sagte Geschäftsfüher Tom Siegel. „Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass die Eltern auch nur eine einzige Warnung erhalten. Solange OpenAI das nicht behebt und durch unabhängige Tests beweist, sollte ChatGPT nur für Erwachsene zugänglich sein.“

Loading...
00:00 / 00:00
Abspielen
Schließen
Aufklappen
kein Artikelbild
Loading...
Vorige 10 Sekunden
Zum Vorigen Wechseln
Abspielen
Zum Nächsten Wechseln
Nächste 10 Sekunden
00:00
00:00
1.0x Geschwindigkeit
Loading
Kommentare Banner - Die Stimme Österreichs

Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.

Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.

krone.tv

krone.at
krone.at
Top 3
Top Gutscheine
Kostenlose Spiele
Vorteilswelt

Magazine der Kronen Zeitung