Wut über KI-Nacktfotos
Auch Kate Opfer von Elon Musks Chatbot „Grok“
Schmutzige KI-Fakes von Prinzessin Kate sorgen für Empörung: Mit Elon Musks Chatbot „Grok“ wurden explizite Bilder der Royal erzeugt. Jetzt greift die britische Behörde Ofcom ein.
Die britische Königsfamilie – aber auch unzählige nicht prominente Frauen und Jugendliche – ist Ziel einer neuen Form digitaler Belästigung. Wie britische Medien berichten, gehört auch Prinzessin Kate (43) zu den Opfern: Nutzer des Netzwerks X sollen mithilfe des KI-Chatbots „Grok“ manipulierte und sexualisierte Bilder der Princess of Wales erstellt haben. Ohne ihre Zustimmung wurden reale Fotos in kompromittierende Darstellungen verwandelt. Sehr beliebt sollen dabei die Prompts, also Anweisungen wie „Zieh sie aus“ oder „Zeige sie im Bikini“ sein.
Ofcom schaltet sich ein: Druck auf X wächst
Der Vorfall hat nun offizielle Konsequenzen. Die britische Regulierungsbehörde Ofcom bestätigte, dass sie bereits „dringenden Kontakt“ zu Elon Musks Unternehmen X und xAI aufgenommen hat. Ziel sei es zu klären, welche Sicherheitsvorkehrungen getroffen wurden, um solche Verstöße gegen den Online-Schutz und die Menschenwürde zu verhindern.
„Wir sind uns der schwerwiegenden Bedenken hinsichtlich einer Funktion von Grok bewusst, die entkleidete Bilder von Personen erzeugt“, erklärte ein Sprecher der Behörde. Man prüfe nun, ob eine formelle Untersuchung wegen möglicher Verstöße gegen das britische Gesetz für Online-Sicherheit eingeleitet wird.
xAI räumt „Einzelfälle“ ein
Das Unternehmen xAI, das hinter dem Chatbot steht, reagierte bereits mit einem Statement auf der eigenen Plattform. Man räumte ein, dass es „isolierte Fälle“ gegeben habe, in denen Nutzer durch gezielte Anweisungen (Prompts) die Sicherheitsfilter der KI umgangen hätten. Man arbeite kontinuierlich an Verbesserungen, um solche Anfragen künftig komplett zu blockieren. Musk warnte auf X: „Wer Grok zur Erstellung illegaler Inhalte nutzt, wird die gleichen Konsequenzen tragen, als würde er illegale Inhalte hochladen.“
Für Prinzessin Kate ist dies nicht der erste Kampf um ihre Privatsphäre. Bereits in der Vergangenheit ging der Palast erfolgreich gerichtlich gegen Magazine vor, die Paparazzi-Aufnahmen aus dem Privatleben der Royals veröffentlicht hatten. Der aktuelle Fall markiert jedoch eine neue Eskalationsstufe durch künstliche Intelligenz, die den Schutz öffentlicher Personen vor digitalen Übergriffen massiv erschwert.
Kinderschützer schlagen Alarm
Neben den Bildern von Kate gibt es Berichte der „Internet Watch Foundation“ (IWF), wonach Grok auch für die Erstellung von sexualisierten Bildern von Minderjährigen missbraucht worden sein soll. Die IWF fordert die Regierung nun auf, KI-Unternehmen gesetzlich dazu zu verpflichten, Sicherheitsbarrieren bereits während der Entwicklung ihrer Software fest zu verankern. Auch die Europäische Kommission, die für die Durchsetzung von EU-Recht zuständig ist, erklärte am Montag, man prüfe den Fall „sehr ernsthaft“. Berichten zufolge bewerten zudem die Behörden in Frankreich, Malaysia und Indien die Situation.
Das Kensington Palace hat sich zu dem Vorfall bislang nicht offiziell geäußert.
Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.