Software versagte

Facebook: Darum wurde Terrorvideo nicht erkannt

Nach dem Massaker im neuseeländischen Christchurch mit 50 Toten, das der Täter live ins Internet streamte, ist Facebook weiterhin um Schadensbegrenzung bemüht. Das Netzwerk räumte ein, dass die Software auf Basis künstlicher Intelligenz zur Erkennung von Gewaltinhalten beim Video der Wahnsinnstat nicht reagiert habe. „Um das zu erreichen, müssen wir unsere Systeme erst mit großen Mengen von Daten von genau solchen Inhalten versorgen“, erklärte das Facebook am Donnerstag. Das sei schwierig, „da solche Ereignisse dankenswerterweise selten sind.“

Eine weitere Herausforderung für die Software sei, echte Gewalt von der Übertragung von Videospielszenen zu unterscheiden. „Wenn unsere Systeme zum Beispiel bei Tausenden Stunden von Livestreams aus Videospielen Alarm schlagen würden, könnten unsere Prüfer die wichtigen Videos aus der realen Welt verpassen“, bei denen Facebook Helfer alarmieren könnte.

Mit automatischen Gewehren ging der Schütze von Christchurch in eine Moschee und schoss auf alle Menschen, die er sah.

(Bild: Screenshot twitter.com)

Erster Nutzerhinweis ging nach zwölf Minuten ein
Der Attentäter, der am vergangenen Freitag 50 Menschen bei Angriffen auf zwei Moscheen im neuseeländischen Christchurch getötet hatte, hatte die Attacke in Echtzeit via Facebook Live übertragen. Das soziale Netzwerk bekräftigte frühere Angaben, wonach der 17-minütige Livestream von weniger als 200 Nutzern gesehen wurde und der erste Nutzerhinweis zwölf Minuten nach dem Ende der Übertragung einging.

(Bild: AFP)

Facebook erklärte, dass der Hinweis schneller bearbeitet worden wäre, wenn jemand das Video noch während des Livestreams gemeldet hätte. Das ursprüngliche Video sei rund 4000 Mal gesehen worden - zur späteren Verbreitung habe aber beigetragen, dass mehrere Nutzer Kopien bei anderen Diensten hochgeladen hätten.

1,2 Millionen Upload-Versuche blockiert
Facebooks Software blockierte in den ersten 24 Stunden zwar 1,2 Millionen Versuche, das Video erneut hochzuladen - ließ aber auch rund 300.000 Uploads durch. Das liege unter anderem daran, dass man es mit über 800 veränderten Varianten des Videos zu tun gehabt habe.