Porno-Deepfakes

Indonesien zieht Stecker bei Musks KI-Chatbot Grok

Web
10.01.2026 14:04
Porträt von krone.at
Von krone.at

Als weltweit erstes Land hat Indonesien den KI-Chatbot Grok des US-Multimilliardärs Elon Musk wegen der Erstellung und Verbreitung pornografischer Bilder gesperrt. Der Zugang zu Grok werde vorläufig geblockt, „um Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte“ zu schützen, erklärte am Samstag Digitalministerin Meutya Hafid.

Die Regierung sehe „nicht einvernehmliche“ Deepfakes – KI-generierte, täuschend echte Bilder und Videos – als „schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“, hieß es in der Erklärung der Ministerin weiter. Ihr Ministerium bestellte demnach Vertreter von Musks Online-Dienst X ein, über den Grok genutzt werden kann.

Ende Dezember war auf X eine Schaltfläche „Bild bearbeiten“ für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den „spicy mode“ (doppeldeutig: scharfer Modus), der laut X „rohe“ und „ungefilterte“ Anfragen zulässt, bei denen „kein Thema“ tabu sei. 

Fehler im KI-Werkzeug sollen behoben werden
Musks für Grok zuständige KI-Firma xAI erklärte Anfang Jänner, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben. Zu der Sperre von Grok in Indonesien äußerte sich xAI auf Anfrage zunächst nicht.

Das mehrheitlich muslimische Indonesien ist das erste Land, das Grok vollständig sperrt. Zuvor war die Nutzung des Tools anderswo auf zahlende Kunden beschränkt worden. EU-Vertreter sowie Aktivisten kritisierten die Entscheidung, die Nutzung von Grok auf zahlende Abonnenten zu begrenzen, jedoch scharf und erklärten, dass damit die Bedenken hinsichtlich sexueller Deepfake-Inhalte nicht ausgeräumt würden.

Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen kinderpornografischer Bilder. Die Kommission nehme die Beschwerden „sehr ernst“, hatte ein Sprecher am Montag in Brüssel gesagt. Für derartige Bilder gebe es „in Europa keinen Platz“.

Loading...
00:00 / 00:00
Abspielen
Schließen
Aufklappen
kein Artikelbild
Loading...
Vorige 10 Sekunden
Zum Vorigen Wechseln
Abspielen
Zum Nächsten Wechseln
Nächste 10 Sekunden
00:00
00:00
1.0x Geschwindigkeit
Loading
Kommentare Banner - Die Stimme Österreichs

Willkommen in unserer Community! Eingehende Beiträge werden geprüft und anschließend veröffentlicht. Bitte achten Sie auf Einhaltung unserer Netiquette und AGB. Für ausführliche Diskussionen steht Ihnen ebenso das krone.at-Forum zur Verfügung. Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.

Hinweis in eigener Sache: Das krone.at-Forum präsentiert sich ab sofort in neuem Design! Wir freuen uns über konstruktives Feedback. Damit die Diskussionen in den Kommentarbereichen beim jeweiligen Thema bleiben, können Sie uns Rückmeldungen hier hinterlassen.

krone.tv

Top 3
Kostenlose Spiele
Vorteilswelt

Magazine der Kronen Zeitung