Social Media geflutet

Vom Klick zum Anschlag: Wie die Kreml-Lügen wirken

Seit Jahren fährt das russische Regime eine groß angelegte Kampagne, um den Westen mit Falschmeldungen zu fluten. Künstliche Intelligenz ermöglicht ungeahnte Methoden. Wie sie wirken und welche Strategie dahintersteckt.

Junge Soldaten, die weinen und in die Kamera um Hilfe flehen, weil sie an die Front in der Ukraine geschickt werden. Es sind Bilder, die zu Herzen rühren sollen – und allesamt mithilfe von Künstlicher Intelligenz (KI) erstellt wurden. Seit Monaten sind solche Fake-Videos auf Plattformen wie TikTok, Facebook und YouTube zu finden und werden dort millionenfach geklickt. Dahinter steckt eine großangelegte Desinformationskampagne Russlands.

KI-Schwemme auf TikTok
Das System hat Methode: Die Videos werden insbesondere bei TikTok auf eigens dafür eingerichteten Kanälen veröffentlicht, die erst kurz zuvor registriert wurden. Mithilfe von Bots werden die Klickzahlen angekurbelt, bis der Algorithmus anspringt und den Clip in die Empfehlungen befördert, wo immer mehr Nutzer ihn sehen. „Für weitere Klicks sorgen emotionale Begriffe wie Krieg oder Hinrichtungen im Titel. Für Menschen, die noch nie mit Künstlicher Intelligenz gearbeitet haben, ist es schwer, solche Videos zu identifizieren; zu unterscheiden zwischen wahr und falsch“, erklärt der Ukrainer Dmytro Kornienko, Experte für Desinformationsstrategien und Gründer der Analyseplattform Resurgam.

Ein Video im Netz soll den Abzug ukrainischer Soldaten aus Pokrowsk zeigen. Es wurde mit KI erstellt.(Bild: Screenshot)

Auf diesen TikTok-Account wurden Videos weinender Soldaten hochgeladen, die allesamt gefälscht sind.(Bild: Screenshot)

Dmytro Kornienko ist Gründer der Analyseplattform Resurgam (resurgamhub.org). Er forscht zu Geopolitik, Verteidigungsökonomie und Desinformationsstrategien. Seine Arbeit basiert auf OSINT-Recherchen und datengetriebenen Analysen.(Bild: zVg)

Billige Propaganda dank Social-Media-Algorithmen
Auch wenn auf den großen Social-Media-Plattformen KI-generierte Videos nach einiger Zeit als solche ausgewiesen und entsprechende Accounts gelöscht werden, helfen sie zunächst mit, Lügen viral zu verbreiten. Sobald jemand ein Video etwas länger ansieht, wird die Propaganda dank Algorithmus zum Selbstläufer: „Bleibt ein Zuseher für etwa zehn Sekunden auf dem Video, hinterlässt er eine Spur bei dem Account und bekommt weitere Empfehlungen für ähnliche Videos“, erläutert Kornienko. „So ist es möglich, Desinformation auf ganz billige Weise zu verbreiten.“

Andere Desinformationskampagnen waren da deutlich kostspieliger: Im Rahmen der russischen Operation „Doppelgänger“, die 2022 entdeckt wurde, wurden zahllose Duplikate bekannter Nachrichtenwebsites und Behördenseiten erstellt, auf denen dann Falschmeldungen zum Ukraine-Krieg verbreitet wurden. Entwickelt wurden derartige Methoden vom russischen Generalstabschef Waleri Gerassimow. Seit 2012 arbeitet er an derartigen Desinformationskampagnen.

Die „Krone“ erreicht Kornienko per Zoom in Kiew, wo es während des Gesprächs keinen Strom gibt. Er und sein Dolmetscher müssen sich auf ihre Akkus verlassen.(Bild: Screenshot/Zoom)

Dabei handle es sich um eine langfristige Strategie, die das russische Regime verfolge, „seit sich im Jahr 2022 abgezeichnet hat, dass die ursprünglichen Kriegsziele nicht erreicht werden und sich die Invasion zum Abnützungskrieg entwickelt“, erklärt Kornienko. Teil der Strategie sei es, jede Wahl in Europa – von lokaler Ebene bis zur Präsidentenwahl – dazu zu benutzen, Hilfe für die Ukraine zu verzögern oder zu verhindern. Auch die österreichische Nationalratswahl war im Visier russischer Netz-Terroristen.

Nach einem Sabotageakt auf die Eisenbahn hat Polen die Terrorwarnstufe erhöht. Hinter dem Anschlag werden von Russland im Netz rekrutierte Saboteure vermutet.(Bild: EPA/Wojtek Jargilo)

Dabei wisse der Kreml, auf die Eigenheiten der verschiedenen Länder einzugehen, erklärt der Desinformationsexperte. Da, wo es Bruchlinien gebe, setze die Desinformation an, um die Kluft zu weiten. Das sei der erste in einer Reihenfolge von Schritten, an dessen Ende handfeste Gewalt steht. Als Beispiel nennt Dmytro Kornienko den Sprengstoffanschlag gegen die polnische Eisenbahn. Polen macht Russland für die Sabotage verantwortlich. Kornienko hält es für wahrscheinlich, dass die Saboteure im Netz rekrutiert wurden.

Geheimdienst rekrutiert auf TikTok
Denn der russische Militärgeheimdienst GRU verlege sich zunehmend darauf, über Social Media lokale Kriminelle anzuwerben, um Terrorakte auszuführen. Das funktioniere so: „Man sieht auf TikTok ein solches Video, kommentiert es, vielleicht aus einer Laune heraus. Dann werden solche Leute kontaktiert und ein Anteil stimmt vielleicht am Ende tatsächlich zu, gegen Geld einen Sabotageakt auszuführen.“

Propaganda, die mithilfe von KI erstellt wurde, wird freilich von vielen Akteuren eingesetzt, etwa bei Wahlen in Indien oder den USA. So konzertiert werde sie derzeit aber nur von Russland eingesetzt, meint Kornienko. In Zukunft könnte sie ein weiteres autoritäres Regime für den Informationskrieg einsetzen, so der Experte: „Wir können annehmen, dass die Russen die von ihnen akkumulierte Erfahrung an die Chinesen weitergeben, um Peking die Möglichkeit zu geben, sie im politischen Kampf gegen Taiwan einzusetzen.“