20.06.2022 15:15 |

Manipulation im Netz

KI „defalsif-AI“ soll Fake-News entlarven

„Mit welchem Programm würden Sie ein verdächtiges Bild auf Manipulationen hin untersuchen?“ - Auf diese Frage ist die häufigste Antwort Schweigen. Ein Werkzeug, mit dem man Bilder verändern kann, hat hingegen jeder im Kopf, sagt Martin Boyer. Er leitet das Projekt defalsif-AI, in dessen Rahmen Werkzeuge zur Erkennung von Falschinformationen entwickelt werden.

Artikel teilen
Drucken
Kommentare
0

„Ziel ist, die Demokratie und demokratische Institutionen mit technischen Mitteln dabei zu unterstützen, digitale Inhalte zu überprüfen beziehungsweise zu verifizieren und darauf aufbauend Entscheidungen zu treffen“, beschreibt Boyer, der als Senior Research Engineer am AIT Austrian Institute of Technology arbeitet. Letztendlich könnten die Tools auch der breiten Bevölkerung zur Verfügung gestellt werden.

Wichtig sei, eine einfache Anwendbarkeit zu gewährleisten. Konkret lädt man auf einer Website die Inhalte hoch oder gibt die Webadresse an, ergänzt Hintergrundinformation und drückt den Startknopf. Die Zusatzinfos helfen dem System, die richtigen Analysemethoden und -tools auszuwählen. Das könnte ein Hinweis sein, was man gerne ausgewertet haben will, also beispielsweise „Audio“ oder dass es sich um ein Porträtbild handelt. Würde beispielsweise ein Detektor für Landschaftsbilder auf ein Porträtbild angewendet, wären die Ergebnisse vielleicht nicht besonders aussagekräftig, weil dieses Modul nicht darauf ausgelegt ist, erklärt Boyer.

Anhaltspunkte für Manipulationen
Anschließend sucht das System auf technischer Ebene nach Anhaltspunkten dafür, dass es sich um Desinformation oder manipulierte Inhalte handelt. „Ein sehr einfacher Hinweis ist, wenn jemand mit einem bestimmten Bildbearbeitungsprogramm etwas nachbearbeitet und das anhand der Metadaten sichtbar ist. Auch wenn Pixel manipuliert oder Bilder oft komprimiert werden, hinterlässt das Spuren“, so der Experte. Im aktuellen Projekt arbeite man sehr stark mit Machine Learning-Komponenten, die auf Datensätze trainiert werden, die solche Manipulationen beinhalten.

Zitat Icon

Die Detektoren müssen laufend optimiert werden, weil die Fälschungsmethoden besser werden.

Martin Boyer, AIT

Derzeit besteht das Angebot aus mehreren Bausteinen, die aber flexibel erweiter- beziehungsweise adaptierbar sein sollen. „Wir versuchen mit unserem Tool ein Ökosystem zu schaffen, mit dem man in Zukunft weitere Analysen und Komponenten hinzufügen kann, auch um das vielleicht von der Community gestützt weiterzuentwickeln. Auf technischer Seite gibt es da keine großen Hürden“, so Boyer. Flexibilität sei auch gefordert, um „das Katz- und Maus-Spiel nicht zu verlieren. Die Detektoren müssen laufend optimiert werden, weil die Fälschungsmethoden besser werden“, streicht der Forscher hervor.

Kein Technikwissen notwendig
Die Ergebnisse der Analyse werden in Form einer Webseite dargestellt. Dabei sei auf Einfachheit und Verständlichkeit geachtet worden, um die Anforderungen an die technische Expertise der Anwender zu minimieren. In einem ersten Schritt bekomme man komprimierte Resultate. Wer sich in einzelne Ergebnisse vertiefen will, könne aber auch Details aufrufen. Eine Herausforderung sei, die Benutzeroberfläche nicht zu überfrachten und gleichzeitig sehr transparent zu agieren. „Mit dem Ergebnis wird auch mitgeteilt, wie das Tool arbeitet, teilweise an welchen Daten es trainiert wurde und was man sich davon erwarten kann“, sagt Boyer.

Darüber hinaus wünscht sich der Experte, „dass Tools wie das unsere einen breiteren und öffentlichen Diskurs anregen und zu bestimmten Fragestellungen einen Beitrag leisten: Also beispielsweise, was kann künstliche Intelligenz leisten und was nicht? Ich glaube, man wird in absehbarer Zeit nicht so weit kommen, dass die Maschine alles entscheiden kann.“

 krone.at
krone.at
Kommentare

Liebe Leserin, lieber Leser,

die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.

Mit freundlichen Grüßen
das krone.at-Team

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Mittwoch, 06. Juli 2022
Wetter Symbol