Gesichtserkennung

Amazon-KI erkennt Politiker als Verbrecher

(Bild: ACLU)

KI-Systeme zur Gesichtserkennung, die Fotos mithilfe neuronaler Netzwerke analysieren, haben in den letzten Jahren enorme Fortschritte gemacht und kommen heute auf Flughäfen oder bei Polizeibehörden zum Einsatz, um Personen schnell und effektiv zu identifizieren. Doch sie sind nicht fehlerfrei. Darauf weisen US-Bürgerrechtler mit einem Experiment hin: Sie haben eine KI-Gesichtserkennung von Amazon mit Fotos Krimineller gefüttert und dann Bilder von Abgeordneten durch das System gejagt. Viele Politiker wurden als Kriminelle klassifiziert.

Für ihren Versuch haben die Bürgerrechtler der American Civil Liberties Union (ACLU) ein System zur Gesichtserkennung angemietet, das vom E-Commerce-Giganten Amazon, der auch in Cloud-Belangen eine große Nummer ist, angeboten wird. Sie fütterten das System mit 25.000 Polizeifotos von Verhafteten, berichtet das IT-Portal „Heise“. Anschließend testeten sie die Gesichtserkennung an 535 US-Kongressabgeordneten. Dabei wurden 28 Politiker von dem System mit einem der Kriminellen verwechselt. Wäre das System auf einem Flughafen im Einsatz gewesen, hätte das Sicherheitspersonal sie sich vermutlich genauer angeschaut.

(Bild: Amazon)

ACLU warnt: Gesichtserkennung nicht unfehlbar!
Die Bürgerrechtler wollen mit ihrem Experiment nicht etwa den Eindruck erzeugen, Politiker und Kriminelle hätten ähnliche Gesichtszüge. Sie wollen allerdings darauf hinweisen, dass KI-Systeme zur Gesichtserkennung, solange sie noch nicht vollständig fehlerfrei arbeiten, mit Vorsicht behandelt werden sollten. „Eine Identifizierung - akkurat oder nicht - könnte Menschen ihre Freiheit oder sogar ihr Leben kosten“, erklären die Bürgerrechtler, wohl mit Blick auf autoritäre Staaten, in denen solche Systeme auf großes Interesse stoßen.

(Bild: stock.adobe.com)

Amazon übt Kritik am Versuchsaufbau
Amazon kritisiert in einer Reaktion die Versuchsmodalitäten. Die Bürgerrechtler hätten die Amazon-KI falsch eingestellt, wodurch es zu den Fehlalarmen gekommen sei. Konkret sei die Erkennungsgenauigkeit zu niedrig eingestellt worden. Die KI habe in dem Versuch bereits dann ein Gesicht als erkannt eingestuft, wenn sie sich zu 80 Prozent sicher war, dass sie die Person erkannt hat. Beim Einsatz bei Polizeibehörden sei aber eine Genauigkeit von zumindest 95 Prozent empfohlen. Eine 80-Prozent-Erkennungsrate sei nicht bei Menschen, sondern bei „Fotos von Hot Dogs, Stühlen oder Tieren“ angemessen.

(Bild: AP)

US-Behörden setzen bereits KI-Systeme ein
Auch, wenn Amazon beschwichtigt: Dass KI-Systeme zur Gesichtserkennung in den USA längst eingesetzt werden, ist bekannt. In dem Bericht wird etwa auf die Polizei in Orlando im US-Bundesstaat Florida verwiesen, welche Experimente - wohlgemerkt mit Fotos der Polizisten, die das System später einmal nutzen sollen - in diesem Bereich macht. Im US-Bundesstaat Oregon hat die Polizei bereits ein System zur Gesichtserkennung im Einsatz. Es wurde mit 300.000 Fotos von Kriminellen gefüttert und kann genau verfolgen, welche einmal verhaftete Person wo von einer Kamera aufgenommen wird. Auch hier kommt das Amazon-System zum Einsatz, das diese Dienste für erstaunlich günstige sechs bis zwölf US-Dollar pro Monat bereitstellt.

(Bild: stock.adobe.com)

Gesichtserkennung entwickelt sich zu Streitthema
ACLU fordert angesichts der Möglichkeit von Fehlerkennungen ein Moratorium solcher Versuche in den USA. Ob ein solches kommt, ist allerdings ungewiss. Zu weit fortgeschritten sind Experimente mit Gesichtserkennung nicht nur in den USA, sondern weltweit. Experten gehen davon aus, dass es auf Flughäfen schon in wenigen Jahren automatisierte Systeme geben wird, die nicht nur Passagiere erkennen, sondern sie sogar kategorisieren und anhand bestimmter Merkmale beispielsweise als terrorverdächtig einstufen können. Das wirft wiederum Fragen auf, ob solche Systeme, die Aussagen über Menschen treffen, nicht missbräuchlich verwendet oder von den Vorurteilen ihrer Schöpfer geprägt werden könnten.