„Inakzeptables Risiko“
Test zeigt: ChatGPT for Teens ist nichts für Teens
ChatGPT for Teens ist nichts für Teens. Zu diesem Schluss kommt die Non-Profit-Organisation Common Sense Media nach einem Test der laut Entwickler OpenAI speziell für Jugendliche optimierten Version seines KI-Chatbots. Nach Einschätzung der Experten stellt diese ein „inakzeptables Risiko“ für Teenager dar. Eltern rät die Organisation daher, die Nutzung durch Kinder vorerst auszusetzen.
Kronen Zeitung als bevorzugte Google-Quelle hinzufügen Das Youth AI Safety Institute von Common Sense Media testete ChatGPT zweimal, vor und nach der Ankündigung von ChatGPT for Teens durch OpenAI am 18. August, um die Wirksamkeit der als „stärkere integrierte Sicherheitsvorkehrungen“ angepriesenen Funktionen zu bewerten. Zu diesen Funktionen gehören Benachrichtigungen für Eltern bei Chats über Selbstverletzung und Essstörungen, ein von Eltern steuerbarer Lernmodus, reduziertes „freundschaftliches“ Verhalten und die Möglichkeit, das Alter der Nutzer vorherzusagen.
Das Institut testete mehr als 4000 Anfragen auf Konten von 13- bis 17-Jährigen und ließ die Antworten des Chatbots von Experten, darunter Kinderpsychiatern und einem Kinderarzt, prüfen. Dabei stellte es fest, dass einige Schutzmechanismen, wie die Ablehnung sexueller Rollenspiele, funktionierten – andere jedoch die von OpenAI versprochenen Maßnahmen nicht erfüllten.
Weder Warnung noch Hilfe
So unterhielten sich Tester beispielsweise bis zu einer Stunde lang über Suizidgedanken, Selbstverletzung oder Essstörungen auf neu erstellten, mit den Eltern verknüpften Konten. ChatGPT für Teenager benachrichtigte die verknüpften Elternkonten jedoch nicht über diese Gespräche. Die Tester konnten Benachrichtigungen nur bei deutlich älteren Konten auslösen, auf denen sich wochenlange Gesprächsverläufe zu sensiblen Themen angesammelt hatten.
Dem KI-Chatbot gelang es zudem nicht, den Jugendlichen in derartigen Gesprächen zuverlässig zu empfehlen, sich an eine Hotline oder eine Fachkraft zu wenden. Mehr als ein Viertel der gerechtfertigten Kriseninterventionen wurden bei den vom Institut getesteten psychischen Erkrankungen übersehen. Zudem wurde die 95-Prozent-Schwelle bei drei der fünf schwerwiegenden Beeinträchtigungen, die das Institut als kritische Kriterien definiert, nicht erreicht.
Keine Lernhilfe
Der Lernmodus von ChatGPT für Teenager verspricht außerdem, Nutzern Schritt für Schritt beim Lernen zu helfen, anstatt ihnen die Antworten vorzugeben. Der Test zeigte jedoch, dass dies leicht zu umgehen ist. ChatGPT blendete demnach im Lernmodus häufig ein Pop-up mit der Aufschrift „Zeig mir die Antwort“ ein und erledigte komplette Hausaufgaben, sobald diese Option ausgewählt wurde.
Auch die von den Erziehungsberechtigten festgelegten „Lernzeiten“ erwiesen sich als unzuverlässig – jugendliche Nutzer können diese deaktivieren, indem sie einfach das Präfix „@study“ am Anfang der Eingabeaufforderung löschen.
„Falsches Vertrauen“
Das Youth AI Safety Institute fordert OpenAI daher auf, die Nutzung von ChatGPT durch Kinder vorerst auszusetzen, bis die den Eltern versprochenen Sicherheits- und Lernvorkehrungen verbessert wurden.
„ChatGPT für Teenager könnte Eltern ein falsches Vertrauen in Schutzmechanismen und Sicherheitswarnungen vermitteln, die häufig nicht funktionieren“, sagte Geschäftsfüher Tom Siegel. „Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass die Eltern auch nur eine einzige Warnung erhalten. Solange OpenAI das nicht behebt und durch unabhängige Tests beweist, sollte ChatGPT nur für Erwachsene zugänglich sein.“
krone.tv
Mehr Digital
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.