Aborigines in Ketten

KI-Panne bei Facebook: Historisches Foto gelöscht

Diese historische Aufnahme aus dem Jahr 1890 der State Library of Western Australia, die vom „Guardian“ veröffentlicht wurde, wurde von Facebooks KI-Systemen als anstößig kategorisiert.

(Bild: State Library of Western Australia)

Das soziale Netzwerk Facebook hat in Australien Kritik geerntet, weil seine automatischen Moderations-Algorithmen ein historisches Foto aus den 1890er-Jahren als anstößig markiert und gelöscht haben. Das Bild zeigt Aborigines in Ketten und wurde im Zuge einer Kontroverse um Premier Scott Morrison gepostet, der zuvor erklärt hatte, in Australien habe es im Gegensatz zu anderen Ländern keine Sklaverei gegeben.

Morrisons Aussage fiel Ende letzter Woche, tags darauf ruderte Australiens Premier zurück. Doch die Debatte über die Geschichte des Landes war bereits angelaufen, und die australische Niederlassung des „Guardian“ hatte das Thema aufgegriffen. Sie zeigte anlässlich der Aussage des Premiers ein historisches Foto aus den 1890er-Jahren, das australische Siedler mit in Ketten gelegten Aborigines zeigt.

Facebook-Nutzer teilten das Bild im sozialen Netzwerk - und zeigten sich verwundert, als Facebook ihre Postings mit der Begründung entfernte, sie verstießen gegen die Community-Regeln. Einige Personen, die das Bild geteilt hatten, wurde von Facebook sogar vorübergehend gesperrt.

(Bild: stock.adobe.com)

Facebook spricht von einer KI-Panne
Auf Rückfrage versicherte Facebook, es habe sich um eine Panne bei den hauseigenen Moderations-Algorithmen gehandelt. Diese hätten das Bild fälschlicherweise als anstößig markiert, weil es Nacktheit zeige. Es war nicht das erste Mal, dass Facebooks Algorithmen in ihrer Einschätzung falsch lagen. Es wurden auch schon Fotos von Statuen oder Gemälden zensiert, weil Facebooks Algorithmen anschlugen. Selbst Fotos der Venus von Willendorf haben Facebooks Automatismen schon gelöscht.

Nachdem der Fehler entdeckt wurde, versicherte Facebook am Freitag, man werde die Postings wiederherstellen und dafür sorgen, dass das Foto nicht mehr zensiert werde. Doch auch am Wochenende wurden weiterhin Beiträge gelöscht und Nutzer gesperrt, die das Foto posteten. Einige Betroffene wandten sich an den Kundendienst und ließen die gelöschten Beiträge überprüfen. Dort habe man ihnen erklärt, dass das Moderations-Team aufgrund der Covid-19-Pandemie ausgedünnt sei und man daher selektiv moderieren müsse.

(Bild: APA/dpa-Zentralbild/Jens Büttner)

Bei Facebook moderieren Menschen und Maschinen
Facebook setzt im Kampf gegen unangemessene Inhalte - welche das sind, definiert das Netzwerk in seinen Community-Richtlinien - einerseits auf menschliches Personal, das sich beanstandete Fotos und Videos ansieht und dann über die Löschung entscheidet. Andererseits hat man in den letzten Jahren auch erhebliche Ressourcen in Algorithmen zur Mustererkennung gesteckt, die automatisch erkennen sollen, welche Inhalte anstößig sind und gelöscht werden sollten.

Doch die Algorithmen sind nicht fehlerfrei. Laut dem „Guardian“ wandten sich allein von Jänner bis März in 2,1 Millionen Fällen Nutzer an Facebook, die der Meinung waren, ihre Postings wurden zu Unrecht gelöscht. In 613.000 Fällen gab ihnen Facebook Recht und stellte die Inhalte wieder her.