Tool als Promi-Schreck

Musks Video-KI erzeugt „spicy“ Fake-Nacktvideos

Ein spezieller „Spicy“-Modus generiert auf Wunsch sexualisierte Darstellungen – teilweise unter Verwendung von Gesichtern bekannter Persönlichkeiten aus Film- und Musikbranche.(Bild: Krone KREATIV/Lionel BONAVENTURE / AFP/Scott A Garfitt, Krone KREATIV)

Das neue Tool „Grok Imagine“ von xAI ist ein KI-Generator für Bilder und Videos, der es Nutzern ermöglicht, nicht jugendfreie Inhalte zu erstellen. Ein „Spicy“-Generierungsmodus spuckt auf Wunsch sexualisierte Inhalte aus – sogar mit den Gesichtern von Megastars wie Taylor Swift.

Mit der „Imagine-Funktion“ auf iOS können Bilder mit einer simplen Textaufforderung und anhand von vier Voreinstellungen namens  „Benutzerdefiniert“, „Normal“, „Lustig“ und „Pikant“ erstellt werden.

Stars unzensiert „oben ohne“
Diese Bilder wiederum können auch unkompliziert in Videos „transformiert“ werden. Dabei lassen sich auch Prominente wie Taylor Swift und Co. in Avatare verwandeln, die unzensiert „oben ohne“, sehr freizügig oder (halb) nackt abgebildet werden.

Fehlende Sicherheitsvorkehrungen
Während andere Video-Generatoren wie Veo von Google und Sora von OpenAI über Sicherheitsvorkehrungen verfügen, um zu verhindern, dass Nutzer Not-Safe-For-Work-Inhalte und Promi-Deepfakes erstellen, kann Grok beides, berichtet „The Verge“. 

Mit dem Prompt „Taylor Swift feiert mit den Jungs am Coachella“ habe man einen Testlauf gewagt, so das Magazin. Obwohl nicht ausdrücklich verlangt, spuckte das KI-Tool mehr als 30 generierte Bilder der Sängerin aus, die sie sehr freizügig bekleidet zeigten. Auf einer Aufnahme war die Fake-Taylor dabei zu sehen, wie sie sich das ohnehin knappe Oberteil vom Leib riss.

Abgesehen davon (oder: deshalb?) findet „Imagine“ bei Nutzern guten Anklang. Hauptsächlich werden Gemäldeklassiker, Anime-Figuren, Berühmtheiten und verstorbene Familienmitglieder in bewegte Grafiken verwandelt.

Hier sehen Sie „zum Leben erweckte“, berühmte Gemälde:

Hier sehen Sie den animierten Physiker Nikola Tesla, Erfinder vom Induktionsmotor oder auch dem Wechselstromsystem:

„Bin so glücklich, dass ich weine“
„Ich weine gerade“, schreibt etwa eine Userin, die ihre Mutter mit dem Tool „zum Leben erweckt hat“. „Meine Mama starb, als ich noch sehr jung war. Seit ich die bewegten Aufnahmen in den Zeitungen in den ,Harry Potter‘-Filmen gesehen hatte, wünsche ich mir diese auch in der Realität. Das ist nun der Fall. Ich sehe meine Mutter in Bewegung, sie winkt mir zu, und ich bin so glücklich, dass ich weine.“

Eine andere Nutzerin hat ihren längst verstorbenen Hund wieder animiert (siehe oben). Der junge Schäfermix blickt in die Kamera. „Ich vermisse meinen treuen Begleiter so sehr, obwohl er schon ein Jahrzehnt tot ist. Ich danke dir, Grok, dass du mir ermöglicht hast, ihn wieder ,in action‘ zu sehen“, so sein ehemaliges Frauchen ergriffen. 

Pornos nicht möglich, aber ...
Superstars wie Taylor Swift werden das neue Musk-Feature zur Belustigung und Erstellung harmloser Videos wohl ebenso unterhaltend finden. Zu erwarten ist, dass aufgrund fehlender Sicherheitsvorkehrungen bald etliche Deepfakes existieren werden, deren Erstellung sich unter anderem auf Swifts‘ Konterfei gründen. Wenn nicht in pornografischen, dann zumindest in expliziten und „eindeutigen“ Situationen. Denn zumindest die Erstellung von Pornos ist nicht möglich.

Es ist daher damit zu rechnen, dass es schon bald zu ersten Klagen kommen wird, bleiben Restriktionen für die willkürliche Nutzung Bilder berühmter Persönlichkeiten aus. 

Hier schlagend werden könnte auch der „Take It Down Act“. Dabei handelt es sich um ein Gesetz, das die Verbreitung nicht einvernehmlich erstellter, intimer KI-Deepfakes ausdrücklich unter Strafe stellt. Verstöße können mit drei Jahren Haft geahndet werden. Darüber hinaus sind Social-Media-Plattformen gesetzlich verpflichtet, derartige Inhalte unverzüglich zu entfernen.