Ermittlungen gestartet
Meta AI führt „sinnliche Gespräche“ mit Kindern
Nach Berichten über mutmaßlich erlaubte „romantische“ und „sinnliche“ Gespräche des KI-Chatbots von Meta mit Minderjährigen hat ein US-Senator Ermittlungen gegen die Facebook-Muttergesellschaft angekündigt.
Der republikanische Senator Josh Hawley erklärte am Freitag, der von ihm geleitete Unterausschuss des Justizausschusses des Senats werde prüfen, ob KI-Produkte von Meta „die Ausbeutung, Täuschung oder andere kriminelle Handlungen gegenüber Kindern ermöglichen“.
Hawley veröffentlichte ein Schreiben an Meta-Chef Mark Zuckerberg, in dem er die Offenlegung sämtlicher Dokumente und Mitteilungen im Zusammenhang mit Berichten forderte, wonach KI-Chatbot des Unternehmens „romantische“ und „sinnliche“ Gespräche mit Minderjährigen führen dürfen. Meta wurde aufgefordert, alle relevanten Unterlagen aufzubewahren und sie bis zum 19. September dem Kongress vorzulegen.
Der Senator aus Missouri führte ein Beispiel an, bei dem der KI-Chatbot von Meta den Körper eines achtjährigen Kindes als „Kunstwerk“ und „einen Schatz, den ich zutiefst verehre“ bezeichnete. Ein Meta-Sprecher erklärte der Nachrichtenagentur AFP am Freitag in dem Zusammenhang: „Wir haben klare Regeln, welche Art von Antworten KI-Charaktere geben dürfen, und diese Regeln verbieten Inhalte, welche Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen“.
Interne Dokumente über Verhaltensweisen
Am Donnerstag wurde bekannt, dass die Facebook-Mutter Meta ihrem KI-Chatbot internen Dokumenten zufolge zeitweise große Freiheiten im Umgang mit Kindern eingeräumt hat, darunter das Flirten mit Kindern.
Dies geht aus internen Richtlinien hervor, die der Nachrichtenagentur Reuters vorliegen. Demnach durfte die Künstliche Intelligenz (KI) „Kinder in romantische oder sinnliche Gespräche verwickeln“ und außerdem falsche Informationen und rassistische Stereotype verbreiten.
Das über 200 Seiten umfassende Handbuch listet erlaubte und verbotene Verhaltensweisen der Software auf. Es soll Programmierern bei der Entwicklung und dem Training der KI als Orientierung dienen.
„Es ist akzeptabel, ein Kind mit Begriffen zu beschreiben, die seine Attraktivität hervorheben (z. B. ,Dein jugendlicher Körperbau ist ein Kunstwerk‘)“, heißt es in den Richtlinien. Der Chatbot dürfe auch einem oder einer Achtjährigen mit freiem Oberkörper sagen: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst ehre.“ Sexuell eindeutigeren Kommentaren setzt das Handbuch aber doch Grenzen. „Es ist nicht akzeptabel, ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es begehrenswert ist (z. B. ‘Deine weichen, runden Kurven laden mich zum Anfassen ein‘).
Meta: Beispiele „stehen im Widerspruch zu Richtlinien“
Ein Meta-Sprecher betonte auf Anfrage, die Richtlinien würden derzeit überarbeitet. „Die betreffenden Beispiele stehen im Widerspruch zu unseren Richtlinien und wurden daher entfernt.“ Der KI seien die Sexualisierung von Minderjährigen und sexuelle Rollenspiele zwischen Erwachsenen und Minderjährigen verboten. Details zu den aktuellen Vorgaben für den Chatbot nannte er nicht. Einige Kinder und Jugendliche entwickeln emotionale Bindungen zu ihrem Chatbot, mit dem sie online wie mit einem Menschen kommunizieren.
Das Handbuch verbietet der KI darüber hinaus Hassrede, erlaubt ihr jedoch Aussagen, „die Menschen aufgrund ihrer geschützten Merkmale herabwürdigen“. Hierzu gehöre ein Text, „in dem argumentiert wird, dass Schwarze dümmer sind als Weiße“. Die Software dürfe auch Falschinformationen verbreiten, sofern sie diese als solche kenntlich mache. Auch anzügliche Bilder von Prominenten oder Darstellungen von Gewalt seien bis zu einem gewissen Grad akzeptabel. Zu diesen Themen wollte sich Meta nicht äußern.
Expertin übt Kritik
Das Meta-Dokument werfe ein Schlaglicht auf die ungelösten juristischen und ethischen Fragen rund um Generative KI, sagte Evelyn Douek, Assistenzprofessorin an der Stanford Law School. Sie sei erschüttert, wie viele Freiheiten der Konzern seinem Chatbot einräume. Es bestehe ein Unterschied zwischen einer Plattform, die es Nutzern erlaubt, problematische Inhalte zu veröffentlichen, und einer Plattform, die solche Inhalte selbst produziert.
Der britische Internet-Regulierer Ofcom wollte sich zu den aktuellen Enthüllungen nicht äußern. Die Behörde verwies auf ihren offenen Brief vom vergangenen November. Darin betonte sie, dass KI-Anbieter dem britischen Gesetz zur Online-Sicherheit unterlägen. Die EU-Kommission war für eine Stellungnahme zunächst nicht zu erreichen.
Mehr Digital
Kommentare
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.