Wichtig für Eltern

Wie man gefährliche Inhalte bei ChatGPT verhindert

KI-Funktionen sind auf den Smartphones der Kinder kaum mehr wegzudenken – das bringt aber auch Gefahren mit sich.(Bild: APA/MAX SLOVENCIK)

Immer mehr Jugendliche nutzen KI-Chatbots wie ChatGPT im Alltag – oft unbeaufsichtigt. Nun führt der Hersteller OpenAI neue Jugendschutzfunktionen ein, mit denen Eltern den digitalen Alltag ihrer Kinder gezielter absichern können. Doch wer seine Kinder schützen will, muss die Funktionen aktiv einrichten.

OpenAI reagiert mit den neuen Einstellungen auf zunehmende internationale Kritik und rechtliche Verfahren. Auslöser war unter anderem der Suizid eines 16-Jährigen in den USA: Die Eltern hatten das Unternehmen verklagt, weil ChatGPT ihrem Sohn angeblich Anleitungen zur Selbstschädigung geliefert haben soll. Auch europäische Behörden hatten schärfere Kontrollen gefordert.

Funktion startet nicht automatisch
Damit Eltern die Schutzfunktionen aktivieren können, müssen sie das ChatGPT-Konto ihres Kindes mit dem eigenen verbinden. Dazu wird das Kind über den Eltern-Account eingeladen. Sobald es die Einladung annimmt, gelten für den Minderjährigen automatisch strengere Voreinstellungen. Außerdem erhalten die Eltern Zugriff auf verschiedene Steuerungsmöglichkeiten.

So schützen Eltern ihr Kind:

• Inhaltsfilter aktivieren: Sexuelle, gewaltverherrlichende oder extrem herausfordernde Inhalte (z. B. gefährliche „Challenges“) werden automatisch blockiert.

• Bildgenerierung deaktivieren: So kann verhindert werden, dass Kinder problematische oder verstörende Bilder erstellen.

• Ruhezeiten festlegen: Der Chatbot reagiert dann in bestimmten Zeiträumen nicht – etwa nachts oder während der Schulzeit.

• Gedächtnisfunktion ausschalten: Damit wird verhindert, dass ChatGPT frühere Gespräche speichert und eine „virtuelle Freundschaft“ entsteht.

Neue Alarmfunktion, aber begrenzter Zugriff
Neu ist auch eine Alarmfunktion: Wenn ChatGPT Anzeichen erkennt, dass Jugendliche über Selbstverletzung, Suizid oder andere ernsthafte Probleme sprechen, werden die Eltern benachrichtigt.
Wichtig: Sie bekommen keinen Zugriff auf komplette Chatverläufe, sondern nur sicherheitsrelevante Informationen. Parallel soll ChatGPT die betroffenen Nutzerinnen und Nutzer auf Hilfsangebote hinweisen.

Allerdings sind die Filter nicht perfekt – einfache Umformulierungen können die Systeme teilweise austricksen. Expertinnen und Experten empfehlen daher, die neuen Funktionen nicht als Ersatz für elterliche Gespräche und Aufmerksamkeit, sondern als Ergänzung zu sehen.

In Österreich sind die neuen ChatGPT-Einstellungen allerdings noch nicht verfügbar. Am Montagnachmittag führte der entsprechende Link auf der Webseite ins Leere. Wann genau die Funktionen hierzulande freigeschaltet werden, ist bisher unklar.

KI gehört für Teenager längst zum Alltag
KI-Chatbots sind längst fester Bestandteil des Alltags vieler Teenager. Organisationen wie Common Sense Media oder europäische Datenschutzbehörden drängen deshalb auf wirksame Schutzmechanismen. In einigen Ländern wird sogar erwogen, Social-Media- und KI-Apps erst ab 18 Jahren freizugeben. OpenAI arbeitet parallel an einem System, das das Alter der Nutzer anhand ihrer Chatverläufe automatisch einschätzt – um Alterskontrollen ohne Ausweisdaten zu ermöglichen.