Chancen und Risiken

KI am Telefon: Manipulieren uns bald Maschinen?

(Bild: stock.adobe.com)

Eine Demonstration auf Googles Entwicklerkonferenz I/O, bei der eine Künstliche Intelligenz vor den Augen des verblüfften Publikums einen Telefonanruf abwickelte, ohne dass ihr menschliches Gegenüber erkannt hätte, dass da eine Maschine spricht, sorgt für kontroverse Debatten. Welches Missbrauchspotenzial bieten solche Technologien? Sollte man eine Kennzeichnungspflicht bei Robo-Anrufen einführen? Was, wenn Hacker solche Systeme für ihre Zwecke nutzen? Experten stehen bei der Beantwortung dieser Fragen noch ganz am Anfang.

Auf seiner Entwicklermesse hat Google seine KI einen Tisch in einem Restaurant reservieren lassen. Prinzipiell keine besonders anspruchsvolle Aufgabe. Dass das Gegenüber nicht bemerkt hat, mit einer Maschine zu reden, darf der Internetgigant jedoch als großen Erfolg verbuchen. Es zeigt, wie weit Google mit seinen KI-Systemen bereits ist - und macht, wenngleich Google seine KI-Anrufe klar kennzeichnen will, manchen Beobachtern auch ein wenig Angst.

Google-Geschäftsführer Sundar Pichai

(Bild: AP)

Googles Duplex-KI nutzt Tricks
Wie aus einem Google-Blogeintrag hervorgeht, ist diese Angst allerdings eher unbegründet. Die Google-KI Duplex, mit der die erstaunlichen Maschinenanrufe durchgeführt wurden, trickst nämlich. Kommt sie ins Stocken, setzt sie auf Strategien wie Unterbrechungen, bittet um eine Wiederholung, baut kurze „Äh“-Pausen ins Gespräch ein, um noch einmal nachrechnen zu können. Kurzum: Ganz so flüssig wie es scheint, laufen die Gespräche mit der Maschine in Wahrheit noch nicht ab, diese weiß das aber geschickt zu kaschieren.

Hinzu kommt, dass die Qualität eines Robotergesprächs vom Gesprächsthema abhängt. Googles Duplex-KI wurde für sehr konkrete Anlässe entwickelt: Tischreservierungen, Friseurtermine und dergleichen. Hier ist sie auf viele Eventualitäten im Gespräch vorbereitet und kann entsprechend geschickt darauf reagieren. Schwenkt das Gespräch auf ein anderes Thema, bekommt sie indes schnell Schwierigkeiten und kann nicht mehr so schlagkräftig reagieren, wie es zunächst scheint. Weiß sie nicht mehr weiter, ruft sie deshalb zur Not einen menschlichen Operator zu Hilfe.

(Bild: stock.adobe.com)

KI-Telefonate bergen reale Gefahren
Die momentanen Limitierungen der Technologie sollten allerdings nicht über die Möglichkeiten hinwegtäuschen, die Anrufe durch Maschinen bieten - auch missbräuchlich. Im Gespräch mit dem IT-Portal „The Verge“ warnt die KI-Ethikerin Joanna Bryson von der britischen Universität Bath schon vor automatisierten Spam- und Scherzanrufen, fordert eine Kennzeichnungspflicht von KI-Anrufen. „Wenn wir es nicht regulieren, wird eine weniger berühmte Firma als Google sich diese Technologie zunutze machen. Google wird vielleicht das richtige tun, aber das wird nicht jeder.“

Neben betrügerischen Anrufen birgt sprechende KI noch eine andere Gefahr: Sie könnte die Art, wie wir miteinander umgehen, mit der Zeit verändern. Wenn man in einigen Jahren nicht mehr so genau weiß, ob die Stimme am Telefon Mensch oder Maschine gehört, könnten wir Anrufern misstrauischer begegnen als heute. Möglicherweise werden wir unfreundlich, weil ja womöglich eh nur eine Maschine dran ist. Womöglich gar sozial unverträglich, weil wir uns daran gewöhnen, dass Roboter sich für uns mit unseren Mitmenschen herumschlagen.

(Bild: AFP)

Noch bleibt im KI-Bereich vieles im Dunkeln, Demonstrationen wie Google Duplex gewähren nur einen kleinen Einblick in das, was uns noch erwartet. Für KI-Expertin Bryson ist aber auch das schon viel wert. „Es ist wichtig, dass sie weiterhin solche Demonstrationen machen, damit die Leute sehen, was da passiert. Was wir nämlich wirklich brauchen, ist eine informierte Bevölkerung!“