Do, 21. Juni 2018

Microsoft-Expertin:

14.03.2017 12:04

"Künstliche Intelligenz ist Traum der Faschisten"

Die Microsoft-Forscherin Kate Crawford hat in einem Vortrag auf der US-amerikanischen Technik- und Kulturmesse South by Southwest vor den Gefahren gewarnt, die Künstliche Intelligenz für aufgeklärte Demokratien birgt - und vor den Möglichkeiten, die sie autoritären Herrschern bietet. Sie warnt: "Künstliche Intelligenz ist der Traum der Faschisten. Macht ohne Verantwortung."

Die Forscherin, deren Spezialgebiet die gesellschaftlichen Auswirkungen Künstlicher Intelligenz sind, sagte auf der Messe laut dem britischen "Guardian": "Während wir sehen, wie sich Künstliche Intelligenz stufenweise weiter verbreitet, passiert noch etwas anderes: der Aufstieg des Ultranationalismus, des rechtsextremen Autoritarismus und des Faschismus."

Beides zusammen ergebe einen gefährlichen Mix autoritärer Tendenzen und technologischer Möglichkeiten, sie zu festigen. In einer Sache seien sich nämlich all diese Gruppen einig: Sie verfolgen das Ziel, ihre Macht zu zentralisieren, die Bevölkerung zu überwachen, Außenstehende zu dämonisieren und sowohl Autorität als auch Neutralität gepachtet zu haben, ohne eine Letztverantwortung zu tragen.

Kriminell oder nicht: KI entscheidet nach Gesicht
Welche Möglichkeiten KI autoritären Regierungen bietet, zeigte Crawford anhand internationaler Beispiele. So habe man etwa in China an der Jiao Tong Universität in Shanghai eine Künstliche Intelligenz entwickelt, die auf Basis des Gesichts einer Person vorurteilsfrei entscheiden soll, ob diese kriminell ist oder nicht.

Das Problem: "Unsere Vorurteile sind in den Trainingsdaten eingebaut", warnt Crawford. So habe die Software in China am Ende die Erkenntnis gewonnen, dass Menschen mit "ungewöhnlichen Gesichtern" straffälliger sind. Das werfe Erinnerungen an die Pseudowissenschaft der Phrenologie (Schädelkunde) auf, mit der in den USA einst die Sklaverei und in Nazideutschland die Judenverfolgung legitimiert wurden.

KI kann Bevölkerungsgruppen klassifizieren
KI hätte die Nazizeit wohl noch schlimmer gemacht. Der Expertin zufolge birgt sie riesiges Potenzial bei der Erstellung von Datenbanken, in denen bestimmte Bevölkerungsgruppen erfasst werden. Nazideutschland hätte KI wohl gegen Juden eingesetzt, man kann damit aber nach jedem Merkmal suchen, das einen Menschen von einer Mehrheitsgesellschaft abhebt.

Religion, politische Präferenzen, Weltanschauung: KI kann vieles davon recht zuverlässig zuordnen. Und die nötigen Daten liefern wir selbst - in sozialen Netzwerken wie Facebook. Britische Forscher der Cambridge University haben bereits demonstriert, dass man auf Basis einiger "Likes" Religion und politische Präferenz eines Menschen mit mehr als 80 Prozent Trefferquote voraussagen kann. Das war schon 2013, als KI noch nicht so viel konnte wie heute.

KI hilft Rechtspopulisten bereits im Wahlkampf
Künstliche Intelligenz kann von Politikern allerdings nicht nur eingesetzt werden, um ihre Gegner zu verfolgen. Sie kann ihnen auch erst die Möglichkeit dazu verschaffen, indem sie ihnen zur Macht verhilft. Als Beispiel nennt die Forscherin US-Präsident Donald Trump. Er habe im Wahlkampf massiv auf soziale Medien und die Dienste der KI-Firma Cambridge Analytica gesetzt, um seine Botschaften zu verbreiten.

Nun mag das Werbeversprechen von Cambridge Analytica, man könne Menschen auf Basis Tausender Datenpunkte derart genau analysieren, dass man herausfinde, wie man sie am besten mit personalisierten Botschaften manipuliert, etwas übertrieben sein. Und auch die Behauptung, die Firma habe den Brexit und die Wahl Trumps erst ermöglicht, sollte man mit Vorsicht genießen. Crawford warnt dennoch: "So etwas wird in den nächsten paar Jahren möglich sein."

Einziger Schutz: Man müsse KI-Systeme so ethisch und frei von Vorurteilen programmieren wie möglich. Dass sich Programmierer im Dienste autoritärer Herrscher daran halten werden, darf freilich bezweifelt werden.

Lesen Sie auch:

Dominik Erlinger
Dominik Erlinger

Das könnte Sie auch interessieren

Kommentar schreiben

Sie haben einen themenrelevanten Kommentar? Dann schreiben Sie hier Ihr Storyposting! Sie möchten mit anderen Usern Meinungen austauschen oder länger über ein Thema oder eine Story diskutieren? Dafür steht Ihnen jederzeit unser krone.at-Forum, eines der größten Internetforen Österreichs, zur Verfügung. Sowohl im Forum als auch bei Storypostings bitten wir Sie, unsere AGB und die Netiquette einzuhalten!
Diese Kommentarfunktion wird prä-moderiert. Eingehende Beiträge werden zunächst geprüft und anschließend veröffentlicht.

Kommentar schreiben
500 Zeichen frei
Kommentare
324

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Newsletter

Melden Sie sich hier mit Ihrer E-Mail-Adresse an, um täglich den "Krone"-Newsletter zu erhalten.