Gefährliche KI?

Character.AI: Virtuelle Freunde mit Risiko

Virtuelle Freunde bergen für ein Kinder ein Risiko (Symbolbild).(Bild: Stanisic Vladimir)

Auf der Plattform Character.AI können Nutzer mit KI-gesteuerten Avataren chatten. Doch Experten warnen: Für Kinder kann das verlockende Spiel gefährlich werden – von verstörenden Inhalten bis hin zur Gefahr, dass digitale Chatbots echte Freundschaften ersetzen.

Auf der Plattform Character.AI können Nutzerinnen und Nutzer mit fiktiven Charakteren chatten. Die virtuellen Persönlichkeiten kann man dabei frei auswählen: Es gibt etwa Fantasiegestalten oder fiktive Charaktere aus Filmen oder Serien. Und man kann nicht nur mit den Figuren schreiben – mittels KI-generierter Stimme können die Avatare auch antworten oder mit einem, von der künstlichen Intelligenz erstellten, Bild versehen werden.

Gespräche können real erscheinen
Die Interaktionen mit der KI können von einem einfachen Hin und Her bis zu einem komplexen Gespräch, das einem Roman gleicht, gehen. Das hängt ganz vom Prompt ab, den die Nutzerinnen und Nutzer eingeben, wie „Saferinternet“ schreibt.

Nutzung hat Risiken
Was wie eine harmlose Spielerei klingt, ist nicht ungefährlich, vor allem für Kinder. So ist die Nutzung etwa erst ab 16 Jahren erlaubt, es ist jedoch auch für User und Userinnen unter 16 Jahren einfach möglich, sich auf der Plattform anzumelden. Auch gibt es Filter, die unangemessene Inhalte sperren sollen – diese wirken allerdings nur begrenzt. So kann es passieren, dass Kinder belastende Szenarien sehen oder selbst beispielsweise beleidigende Sprache verwenden. Außerdem besteht Suchtpotenzial: Die KI versucht durch interessierte Fragen, den Chat am Laufen zu halten.

Tipps für Eltern

• Character.AI genau anschauen und erst dann entscheiden, ob man seinem Kind die Nutzung erlaubt
• Klare Zeitlimits für die Nutzung setzen
• Mit Kindern darüber sprechen, was sie online erleben
• Reale soziale Kontakte fördern ⇾ die KI soll nicht zur Haupt-Ansprechpartnerin werden

Die Nutzung der Künstlichen Intelligenz könnte die Wahrnehmung von Kommunikation bei Kindern verzerren. Studien zu Langzeitfolgen gibt es noch nicht. Ein Bericht von „Internet Matters“ zeigte jedoch, dass besonders vulnerable Kinder dazu neigen, KI-Chatbots als Ersatz für echte Freundschaften zu verwenden. „Saferinternet“ rät Eltern: Wenn auffällt, dass die Kinder viel Zeit im KI-Chat verbringen, sollte man genau hinschauen.

Höchstproblematische Charaktere
Da Nutzerinnen und Nutzer selbst KI-Charaktere anlegen können, kann es zu problematischen Verhaltensweisen kommen. Geraten Kinder an einen solchen Avatar, kann sie das potenziell in ihrer Entwicklung beeinträchtigen. In einem extremen Fall in den USA soll es sogar zu einem Suizid gekommen sein, nachdem sich der Teenager in eine KI verliebt hatte.