WM als KI-Spielwiese

Gedopter Messi, Haaland-Schreck & Flüchtling Undav

Im Laufe der WM kursierten zahlreiche KI-Bilder und Fake News.(Bild: AFP/APA/Getty Images via AFP/GETTY IMAGES/ALEXANDER HASSENSTEIN, X/seanwei001/ytyazar, Facebook/අඩු මොලයා, Photoshop)

FIFA-Chef Gianni Infantino spritzt Fußballstar Lionel Messi leistungssteigernde Mittel, Norwegens Erling Haaland erschrickt beim Blick in den Spiegel und Deutschlands Torschütze Deniz Undav ist ein syrischer Flüchtling. Diese und zahlreiche weitere Behauptungen sorgten während der Fußball-Weltmeisterschaft in den sozialen Medien für reichlich Aufsehen – doch sie haben eines gemeinsam: Sie sind frei erfunden.

Großereignisse sind ein Nährboden für Falschbehauptungen. Egal, ob Sport-Events wie die WM, Veranstaltungen in der Kunst- und Kulturbranche oder politische Ereignisse wie Wahlen. So verlässlich wie die seriöse Berichterstattung ist inzwischen auch die Verbreitung von Falschinformationen.

Faktencheckerinnen und Faktenchecker hatten während der Fußball-WM reichlich Arbeit. Von KI-generierten Inhalten über erfundene Behauptungen bis hin zu vermeintlich „wahren“ Informationen, die aus dem Kontext gerissen wurden: Die Weltmeisterschaft bildete das perfekte Spielfeld für Fake News.

KI-Inhalte fluten das Internet
Der rasante Fortschritt generativer KI-Systeme ermöglicht es, innerhalb weniger Minuten täuschend echte Bilder, Texte und Videos zu erstellen. Oft sind sie kaum noch von authentischen Inhalten zu unterscheiden. Es ist nicht ausgeschlossen, dass wir unseren Augen in Zukunft gar nicht mehr trauen können.

Im Rahmen der Fußballweltmeisterschaft wurden zahlreiche KI-generierte Bilder und Videos geteilt. Ein Beispiel ist etwa ein Bild des israelischen Ministerpräsidenten Benjamin Netanyahu als Argentinien-Fan beim Match gegen Österreich. Das Bild ist jedoch gefälscht – ein Verifizierungstool von OpenAI bestätigt, dass es mit Programmen des Unternehmens hergestellt wurde.

Wer den Bildern glaubt, die online kursieren, könnte meinen, dass vor dem offiziellen „Pride-Match“ zwischen Iran und Ägypten riesige Regenbogen-Flaggen über das Spielfeld gespannt wurden. Oder dass ein südafrikanischer Fahnenträger während der Eröffnungsfeier stürzte, iranische Fußballer auf dem Rasen beteten oder Brasiliens Neymar ein spektakuläres Tor gegen Messi erzielte – obwohl Argentinien und Brasilien in dieser WM gar nicht aufeinandertrafen.

Regenbogen-Fahnen beim „Pride-Match“?

Kursiert ist auch ein KI-Bild, das implizierte, dass ein Fan in Hitler-Optik in den Zuschauerrängen saß. All diese Inhalte haben gemein, dass sie mithilfe Künstlicher Intelligenz (KI) erstellt und online verbreitet wurden.

Wie KI erkennen?
Es gibt drei Möglichkeiten, wie man KI erkennen kann: mit der „Inneren“ und der „Äußeren“ Logik sowie mit KI-Detektionstools.

Bei der „Inneren“ Logik geht es darum, visuelle Fehler im Bild oder Video selbst zu finden. Solche Ungereimtheiten zeigen sich etwa im Video zum vermeintlichen Neymar-Tor. Hier fehlt beispielsweise in der Handyaufnahme eines Zuschauers der Torwart.

Neymars Super-Tor gegen Argentinien – das es so nie gab:

Bei der Äußeren Logik geht es um die Überprüfung des Kontexts. Hätten tatsächlich riesige Regenbogen-Flaggen das Spielfeld beim „Pride-Match“ geschmückt, würden mit hoher Wahrscheinlichkeit unzählige Fotos davon online kursieren – immerhin waren knapp 67.000 Zuschauer im Stadion. Außerdem wären sie in der Fernsehübertragung des Matches wohl zu sehen gewesen.

(Bild: Kronen Zeitung)

Hier können Sie die App im Google Play Store downloaden.
Hier können Sie die App via App Store downloaden.

Detektionstools, wie etwa das Verifizierungstool von OpenAI oder ImageWhisperer, sollen KI-Bilder und Videos automatisch erkennen, wie etwa im Fall von Netanjahu als Argentinien-Fan. Eine 100-prozentige Sicherheit können Tools meist jedoch nicht geben, weshalb sich eine Kombination mit klassischer Recherche bzw. den Fragen der Logik empfiehlt.

Erfundene Behauptungen und falscher Kontext
Abseits von KI-generierten Inhalten kursierten zahlreiche Behauptungen, die entweder frei erfunden oder aus dem Zusammenhang gerissen wurden. So wurde der deutsche Torschütze Deniz Undav in Niedersachsen geboren und ist nicht – wie online behauptet – aus Syrien geflüchtet. Die polnische Flagge ist auch nicht auf den Trikots der haitianischen Mannschaft zu sehen, wie das AFP-Faktencheck-Team zeigte. Immer wieder werden auch Aufnahmen von Fanaufläufen oder Ausschreitungen missinterpretiert und in einen anderen Kontext gesetzt.

Rassistische Narrative
Auch wenn nicht alle diesem Narrativ folgen, können zahlreiche Falschbehauptungen mit rassistischen Untertönen ausgemacht werden. So etwa auch bei der Behauptung, deutsche Fans hätten eine Petition gestartet, um afrikanische und muslimische Spieler aus der Nationalmannschaft auszuschließen. Auch dem Undav-Posting kann ein migrationsfeindliches Motiv unterstellt werden.

Deutschlands Deniz Undav(Bild: GEPA)

Memes sind Teil des alltäglichen Umgangs mit digitalen Medien. Sie können aber durchaus auch zentrale Elemente rechtsextremer Ideologien wie Bezüge zum Nationalsozialismus, zu Antisemitismus und Rassismus aufweisen. Auch während der Fußball-WM wurden unzählige Memes gepostet, einige davon folgen einem rassistischen Narrativ.

Eine Fotocollage zeigt etwa eine Gegenüberstellung von zwei Bildern. Über dem ersten steht „Europäische Städte, wenn Japan verliert“, darunter ist das Foto einer sauberen, leeren Innenstadt zu sehen. Das zweite Foto zeigt eine Straße mit umgekippten, brennenden Fahrzeugen und Trümmern – „Europäische Städte, wenn Marokko verliert“, heißt es darüber. Das verwendete Foto der verwüsteten Straße wurde aus dem Kontext gerissen, es stammt aus dem Jahr 2022 und zeigt Ausschreitungen in Paris. Das Bild wurde, so im dpa-Faktencheck beschrieben, bereits mehrfach im falschen Kontext verbreitet – immer wieder in islamfeindlichen Beiträgen.

Nahost-Konflikte als zentrales Thema
Geopolitik ist ebenfalls Thema vieler falscher Inhalte. So kursierte etwa ein Video von südkoreanischen Fans, die bei der WM palästinensische Flaggen gezeigt haben sollen. Das Video ist zwar echt, wurde allerdings nicht während der Weltmeisterschaft aufgenommen, sondern 2024, als Südkorea und Palästina in der WM-Qualifikation aufeinandertrafen.

Ein weiteres Posting zeigte einen iranischen Fußballer, der bei einem WM-Spiel eine rosafarbene Schultasche in die Höhe hält, um an die getöteten Kinder einer bombardierten Mädchenschule im Iran zu erinnern. Das Foto ist KI-generiert, in Anlehnung an reale Ereignisse. Im März brachten iranische Fußballer bei einem Freundschaftsspiel in der Türkei tatsächlich Schultaschen mit aufs Feld. Im Vorfeld der WM machte außerdem die Falschbehauptung die Runde, Spaniens Youngstar Lamine Yamal hatte bei der Einreise in die USA mit Visa-Problemen zu kämpfen, nachdem er eine Palästina-Flagge gehisst hatte.

Weitere Beispiele KI-generierter Bilder und Videos:

Prorussische Propaganda?
Erwähnenswert ist auch ein kürzlich erschienener Artikel über den französischen Starfußballer Kylian Mbappé. Vor zwei Jahren wechselte der 27-Jährige von Paris Saint-Germain zu Real Madrid. In dem Bericht wurde fälschlicherweise behauptet, er habe Frankreich verlassen, weil er vom Präsidenten Emmanuel Macron sexuell belästigt worden sei. Abgesehen davon, dass der Artikel auf keinerlei verifizierten Informationen beruht, wurde er auf einer Fake-Webseite veröffentlicht, die Eurosport imitierte.

Emanuel Macron wurde vorgeworfen, Kylian Mbappe sexuell belästigt zu haben.(Bild: AFP/GABRIEL BOUYS)

Der Bericht trägt alle Merkmale einer prorussischen Desinformationskampagne. Bei der sogenannten Doppelgänger-Kampagne werden regelmäßig gefälschte Webseiten als echte Zeitungen angegeben. Eine Regierungsquelle teilte der AFP mit, dass diese Operation „mit an Sicherheit grenzender Wahrscheinlichkeit“ auf die Vorgehensweise der prorussischen Gruppe Storm-1516 zurückzuführen sei. Dabei handelt es sich um einen Komplex aus Influencern und russischen Denkfabriken oder Stiftungen, die online Desinformation über die Ukraine und ihre Unterstützer streuen.