Porno-Deepfakes
Indonesien zieht Stecker bei Musks KI-Chatbot Grok
Als weltweit erstes Land hat Indonesien den KI-Chatbot Grok des US-Multimilliardärs Elon Musk wegen der Erstellung und Verbreitung pornografischer Bilder gesperrt. Der Zugang zu Grok werde vorläufig geblockt, „um Frauen, Kinder und die Öffentlichkeit vor den Risiken gefälschter pornografischer Inhalte“ zu schützen, erklärte am Samstag Digitalministerin Meutya Hafid.
Die Regierung sehe „nicht einvernehmliche“ Deepfakes – KI-generierte, täuschend echte Bilder und Videos – als „schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“, hieß es in der Erklärung der Ministerin weiter. Ihr Ministerium bestellte demnach Vertreter von Musks Online-Dienst X ein, über den Grok genutzt werden kann.
Ende Dezember war auf X eine Schaltfläche „Bild bearbeiten“ für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den „spicy mode“ (doppeldeutig: scharfer Modus), der laut X „rohe“ und „ungefilterte“ Anfragen zulässt, bei denen „kein Thema“ tabu sei.
Fehler im KI-Werkzeug sollen behoben werden
Musks für Grok zuständige KI-Firma xAI erklärte Anfang Jänner, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben. Zu der Sperre von Grok in Indonesien äußerte sich xAI auf Anfrage zunächst nicht.
Das mehrheitlich muslimische Indonesien ist das erste Land, das Grok vollständig sperrt. Zuvor war die Nutzung des Tools anderswo auf zahlende Kunden beschränkt worden. EU-Vertreter sowie Aktivisten kritisierten die Entscheidung, die Nutzung von Grok auf zahlende Abonnenten zu begrenzen, jedoch scharf und erklärten, dass damit die Bedenken hinsichtlich sexueller Deepfake-Inhalte nicht ausgeräumt würden.
Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen kinderpornografischer Bilder. Die Kommission nehme die Beschwerden „sehr ernst“, hatte ein Sprecher am Montag in Brüssel gesagt. Für derartige Bilder gebe es „in Europa keinen Platz“.
Liebe Leserin, lieber Leser,
die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.
Mit freundlichen Grüßen
das krone.at-Team
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.