KI-Chatbot im Visier

Irland leitet Untersuchung gegen Musks Grok ein

Grok hatte X im Jänner mit KI-veränderten, fast nackten Bildern von realen Personen überschwemmt.(Bild: AFP/JOE RAEDLE)

Wegen der Verarbeitung personenbezogener Daten sowie sexualisierter KI-Bilder und Videos, darunter auch von Kindern, hat die irische Datenschutzkommission DPC eine formelle Untersuchung gegen den KI-Chatbot Grok von Elon Musks Kurznachrichtendienst X eingeleitet. Ziel sei es, festzustellen, ob X seinen Verpflichtungen gemäß der Datenschutz-Grundverordnung nachgekommen sei.

Die Entscheidung, die Untersuchung einzuleiten, wurde X am Montag mitgeteilt, teilte die DPC in einer Erklärung mit. Die DPC ist die federführende EU-Aufsichtsbehörde für X, da das US-Unternehmen seine Geschäfte in der Europäischen Union von Irland aus betreibt. Gemäß der DSGVO der EU kann sie Geldstrafen in Höhe von bis zu vier Prozent des weltweiten Umsatzes eines Unternehmens verhängen.

Grok überschwemmte X im Jänner mit KI-veränderten, fast nackten Bildern von realen Personen als Reaktion auf Nutzeranfragen, was weltweit Empörung und Untersuchungen auslöste. X kündigte Maßnahmen an, um zu verhindern, dass Grok auf der Plattform solche Bilder produziert, aber der Chatbot tat dies auf Aufforderung weiterhin, wie Reuters Anfang dieses Monats feststellte.

Irische DPC in Kontakt mit X
„Die DPC steht seit dem Erscheinen erster Medienberichte vor einigen Wochen mit XIUC (X Internet Unlimited Company) in Kontakt, in denen es um die angebliche Möglichkeit von X-Nutzern ging, das @Grok-Konto auf X dazu aufzufordern, sexualisierte Bilder von realen Personen, darunter auch Kindern, zu generieren“, sagte der stellvertretende Kommissar Graham Doyle.

  „Als federführende Aufsichtsbehörde für XIUC in der EU/im EWR hat die DPC eine groß angelegte Untersuchung eingeleitet“, sagte Doyle und fügte hinzu, dass dabei die Einhaltung einiger „grundlegender Verpflichtungen gemäß der DSGVO in Bezug auf die vorliegenden Angelegenheiten“ durch XIUC geprüft werde.

  Die Europäische Kommission hat am 26. Jänner eine Untersuchung eingeleitet, um zu prüfen, ob Grok illegale Inhalte wie manipulierte sexualisierte Bilder in der EU verbreitet. Am 3. Februar leitete zudem die britische Datenschutzbehörde eine formelle Untersuchung gegen Grok wegen der Verarbeitung personenbezogener Daten und der Möglichkeit der Erstellung schädlicher sexualisierter Bilder und Videoinhalte ein.

Kritik von Trump und Musk an EU-Regulierung
US-Präsident Donald Trump und andere Mitglieder seiner Regierung haben die EU-Regulierung von US-Technologieunternehmen kritisiert und die von der 27-köpfigen Union gegen sie verhängten Geldstrafen als eine Form der Besteuerung bezeichnet. Elon Musk, der reichste Mann der Welt, hat ebenfalls seine Einwände gegen EU-Vorschriften geäußert, vor allem gegen diejenigen, die Brüssel direkt für Online-Inhalte erlassen hat.