Microsoft-Expertin:

“Künstliche Intelligenz ist Traum der Faschisten”

14.03.2017 12:04

Die Microsoft-Forscherin Kate Crawford hat in einem Vortrag auf der US-amerikanischen Technik- und Kulturmesse South by Southwest vor den Gefahren gewarnt, die Künstliche Intelligenz für aufgeklärte Demokratien birgt - und vor den Möglichkeiten, die sie autoritären Herrschern bietet. Sie warnt: "Künstliche Intelligenz ist der Traum der Faschisten. Macht ohne Verantwortung."

Die Forscherin, deren Spezialgebiet die gesellschaftlichen Auswirkungen Künstlicher Intelligenz sind, sagte auf der Messe laut dem britischen "Guardian": "Während wir sehen, wie sich Künstliche Intelligenz stufenweise weiter verbreitet, passiert noch etwas anderes: der Aufstieg des Ultranationalismus, des rechtsextremen Autoritarismus und des Faschismus."

Beides zusammen ergebe einen gefährlichen Mix autoritärer Tendenzen und technologischer Möglichkeiten, sie zu festigen. In einer Sache seien sich nämlich all diese Gruppen einig: Sie verfolgen das Ziel, ihre Macht zu zentralisieren, die Bevölkerung zu überwachen, Außenstehende zu dämonisieren und sowohl Autorität als auch Neutralität gepachtet zu haben, ohne eine Letztverantwortung zu tragen.

Kriminell oder nicht: KI entscheidet nach Gesicht
Welche Möglichkeiten KI autoritären Regierungen bietet, zeigte Crawford anhand internationaler Beispiele. So habe man etwa in China an der Jiao Tong Universität in Shanghai eine Künstliche Intelligenz entwickelt, die auf Basis des Gesichts einer Person vorurteilsfrei entscheiden soll, ob diese kriminell ist oder nicht.

Das Problem: "Unsere Vorurteile sind in den Trainingsdaten eingebaut", warnt Crawford. So habe die Software in China am Ende die Erkenntnis gewonnen, dass Menschen mit "ungewöhnlichen Gesichtern" straffälliger sind. Das werfe Erinnerungen an die Pseudowissenschaft der Phrenologie (Schädelkunde) auf, mit der in den USA einst die Sklaverei und in Nazideutschland die Judenverfolgung legitimiert wurden.

KI kann Bevölkerungsgruppen klassifizieren
KI hätte die Nazizeit wohl noch schlimmer gemacht. Der Expertin zufolge birgt sie riesiges Potenzial bei der Erstellung von Datenbanken, in denen bestimmte Bevölkerungsgruppen erfasst werden. Nazideutschland hätte KI wohl gegen Juden eingesetzt, man kann damit aber nach jedem Merkmal suchen, das einen Menschen von einer Mehrheitsgesellschaft abhebt.

Religion, politische Präferenzen, Weltanschauung: KI kann vieles davon recht zuverlässig zuordnen. Und die nötigen Daten liefern wir selbst - in sozialen Netzwerken wie Facebook. Britische Forscher der Cambridge University haben bereits demonstriert, dass man auf Basis einiger "Likes" Religion und politische Präferenz eines Menschen mit mehr als 80 Prozent Trefferquote voraussagen kann. Das war schon 2013, als KI noch nicht so viel konnte wie heute.

KI hilft Rechtspopulisten bereits im Wahlkampf
Künstliche Intelligenz kann von Politikern allerdings nicht nur eingesetzt werden, um ihre Gegner zu verfolgen. Sie kann ihnen auch erst die Möglichkeit dazu verschaffen, indem sie ihnen zur Macht verhilft. Als Beispiel nennt die Forscherin US-Präsident Donald Trump. Er habe im Wahlkampf massiv auf soziale Medien und die Dienste der KI-Firma Cambridge Analytica gesetzt, um seine Botschaften zu verbreiten.

Nun mag das Werbeversprechen von Cambridge Analytica, man könne Menschen auf Basis Tausender Datenpunkte derart genau analysieren, dass man herausfinde, wie man sie am besten mit personalisierten Botschaften manipuliert, etwas übertrieben sein. Und auch die Behauptung, die Firma habe den Brexit und die Wahl Trumps erst ermöglicht, sollte man mit Vorsicht genießen. Crawford warnt dennoch: "So etwas wird in den nächsten paar Jahren möglich sein."

Einziger Schutz: Man müsse KI-Systeme so ethisch und frei von Vorurteilen programmieren wie möglich. Dass sich Programmierer im Dienste autoritärer Herrscher daran halten werden, darf freilich bezweifelt werden.

Lesen Sie auch: