Kinderporno-Deepfakes

Razzia bei Online-Plattform X: Musk vorgeladen

Tech-Milliardär Elon Musk besitzt die Kurznachrichtenplattform X seit dem Jahr 2022.(Bild: AFP/JIM WATSON)

Französische Ermittler haben am Dienstag die Büros von Elon Musks Online-Dienst X in Paris durchsucht. Hintergrund der Razzia sind Ermittlungen wegen des Vorwurfs, dass Algorithmen in dem sozialen Netzwerk verändert worden sein sollen, um rechtsextremen Inhalten mehr Aufmerksamkeit zu bescheren. Nun gibt es auch Kinderpornografie-Vorwürfe.

Die französische Behörde hat im Zuge ihrer Ermittlungen gegen Musks Online-Dienst X ihn und die ehemalige Geschäftsführerin Linda Yaccarino für den 20. April zu einer Anhörung vorgeladen, geht aus einer Stellungnahme der Staatsanwaltschaft am Dienstag hervor. Die Cybercrime-Einheit der Behörde sei bei der Razzia auch von Europol und der französischen Polizei unterstützt worden, heißt es. Die Pariser Staatsanwaltschaft ermittelt seit rund einem Jahr gegen X.

Grok im Zentrum der Ermittlungen
Neu sind seit Kurzem auch Vorwürfe wegen Holocaust-Leugnung und sexualisierter Abbildungen. Dabei geht es um vom KI-Chatbot Grok erstellte Bilder von Frauen und Kindern, sogenannte Deepfakes. Deepfakes sind mit Hilfe von KI erstellte Videos, Bilder oder Audio-Dateien, die täuschend echt wirken, es aber nicht sind.

Die Ermittlungen verfolgten einen konstruktiven Ansatz und hätten das Ziel, einen Betrieb der Plattform X in Frankreich im Einklang mit den französischen Gesetzen zu gewährleisten, sagt die Pariser Staatsanwältin Laure Beccuau. Die Behörde kündigt zudem an, die Plattform X zu verlassen und künftig auf LinkedIn und Instagram zu kommunizieren. LinkedIn gehört zu Microsoft und Instagram zum Meta-Konzern.

Ermittlungen auch in Großbritannien
Auch in Großbritannien sind wegen der mittels Grok erstellten sexualisierten Bilder und Videos eingeleitet worden. Die Erstellung und Verbreitung solcher Bilder solcher Inhalte werfe „erhebliche Bedenken im Hinblick auf das britische Datenschutzrecht auf und birgt das Risiko erheblicher potenzieller Schäden für die Öffentlichkeit“, hieß es in einer Mitteilung der Datenschutzbehörde ICO. Es gehe darum, ob persönliche Daten rechtmäßig, fair und transparent verarbeitet worden seien und ob es angemessene Sicherheitsmechanismen bei Grok gebe, um zu verhindern, dass persönliche Daten zur Erstellung schädigender, manipulierter Bilder verwendet werden.

Die Untersuchung solle feststellen, ob die Unternehmen XIUC und xAI bei der Entwicklung und Anwendung von Grok die Datenschutzgesetze eingehalten haben. Sollte das der Fall sein, droht eine Geldstrafe in der Höhe von bis zu 20,3 Millionen Euro.

(Bild: Julien Eichinger - stock.adobe.com)

Grok erstellt weiterhin sexualisierte Bilder
Als Reaktion auf die weltweite Empörung über diese Affäre hatte X zunächst den Zugriff auf Groks Bildfunktionen auf zahlende Kunden beschränkt. Zudem betonte die Plattform, illegale Inhalte zu löschen. Nach Reuters-Recherchen entkleidet Grok jedoch weiterhin Personen auf hochgeladenen Bildern. Dies geschehe auch dann, wenn der KI explizit mitgeteilt werde, dass die abgebildete Person dieser Bildmanipulation nicht zustimme.

Weitere Untersuchungen wegen möglicher Verstöße
Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.