„Pseudowissenschaft“

Aktivisten warnen vor Emotions-Scanner bei Zoom

Pläne des für seine Videokonferenzsoftware bekannten US-Unternehmens Zoom, aus den Gesichtern seiner Nutzer künftig mittels künstlicher Intelligenz Emotionen ablesen zu wollen, lassen bei Datenschützern und Bürgerrechtsaktivisten die Alarmglocken schrillen. In einem offenen Brief fordern sie Firmenchef Eric Yuan auf, die Entwicklung dieser Funktion zu stoppen. Sie fürchten eine Verletzung der Privatsphäre und der Menschenrechte.

Nach Einschätzung der mehr als 30 unterzeichnenden Organisationen des offenen Briefes, darunter das Electronic Privacy Information Center (Epic) und die American Civil Liberties Union (ACLU), basiere der geplante Emotions-Scanner „auf der falschen Vorstellung, dass KI menschliche Emotionen verfolgen und analysieren kann“.

Voreingenommene Pseudowissenschaft
Tatsächlich handle es sich jedoch um eine „Pseudowissenschaft“. Gesichtsausdrücke seien oft nicht mit den darunterliegenden Emotionen verbunden, sodass nicht einmal Menschen die Emotionen anderer genau lesen oder messen könnten.

Wie die Gesichtserkennung sei Emotions-KI zudem „von Natur aus voreingenommen“ und daher diskriminierend. „Diese Tools gehen davon aus, dass alle Menschen die gleichen Gesichtsausdrücke, Stimmmuster und die gleiche Körpersprache verwenden - aber das ist nicht wahr“, schreiben die Aktivisten.

Vielmehr würden durch den geplanten Gefühls-Scanner „bestimmte Ethnien und Menschen mit Behinderungen diskriminiert und Stereotypen in Millionen von Geräten fest einprogrammiert“, warnen sie vor der ihrer Meinung nach „irreführenden, fehlerhaften und rassistischen“ Technologie.

Strafen für falsche Gefühle
Der Einsatz dieser könne schließlich auch für Schüler und Studenten, Arbeitnehmer und andere Nutzer gefährlich sein, warnen die Unterzeichner - etwa, wenn Bildungseinrichtungen oder Arbeitgeber beschließen würden, Nutzer für den „‘Ausdruck falscher Gefühle‘ zu bestrafen“.

Die Aktivisten appellieren daher an Zoom-Chef Eric Yuan, die Pläne zur Weiterentwicklung dieser Funktion zu stoppen und sich zu verpflichten, keine „emotionale KI“ einzuführen. „Sie können deutlich machen, dass diese Technologie keinen Platz in der Videokommunikation hat“, schreiben sie. Zoom selbst hat sich bislang nicht öffentlich zu den Vorwürfen geäußert.