Do, 21. Juni 2018

Chancen und Risiken

10.05.2018 12:58

KI am Telefon: Manipulieren uns bald Maschinen?

Eine Demonstration auf Googles Entwicklerkonferenz I/O, bei der eine Künstliche Intelligenz vor den Augen des verblüfften Publikums einen Telefonanruf abwickelte, ohne dass ihr menschliches Gegenüber erkannt hätte, dass da eine Maschine spricht, sorgt für kontroverse Debatten. Welches Missbrauchspotenzial bieten solche Technologien? Sollte man eine Kennzeichnungspflicht bei Robo-Anrufen einführen? Was, wenn Hacker solche Systeme für ihre Zwecke nutzen? Experten stehen bei der Beantwortung dieser Fragen noch ganz am Anfang.

Auf seiner Entwicklermesse hat Google seine KI einen Tisch in einem Restaurant reservieren lassen. Prinzipiell keine besonders anspruchsvolle Aufgabe. Dass das Gegenüber nicht bemerkt hat, mit einer Maschine zu reden, darf der Internetgigant jedoch als großen Erfolg verbuchen. Es zeigt, wie weit Google mit seinen KI-Systemen bereits ist - und macht, wenngleich Google seine KI-Anrufe klar kennzeichnen will, manchen Beobachtern auch ein wenig Angst.

Googles Duplex-KI nutzt Tricks
Wie aus einem Google-Blogeintrag hervorgeht, ist diese Angst allerdings eher unbegründet. Die Google-KI Duplex, mit der die erstaunlichen Maschinenanrufe durchgeführt wurden, trickst nämlich. Kommt sie ins Stocken, setzt sie auf Strategien wie Unterbrechungen, bittet um eine Wiederholung, baut kurze „Äh“-Pausen ins Gespräch ein, um noch einmal nachrechnen zu können. Kurzum: Ganz so flüssig wie es scheint, laufen die Gespräche mit der Maschine in Wahrheit noch nicht ab, diese weiß das aber geschickt zu kaschieren.

Hinzu kommt, dass die Qualität eines Robotergesprächs vom Gesprächsthema abhängt. Googles Duplex-KI wurde für sehr konkrete Anlässe entwickelt: Tischreservierungen, Friseurtermine und dergleichen. Hier ist sie auf viele Eventualitäten im Gespräch vorbereitet und kann entsprechend geschickt darauf reagieren. Schwenkt das Gespräch auf ein anderes Thema, bekommt sie indes schnell Schwierigkeiten und kann nicht mehr so schlagkräftig reagieren, wie es zunächst scheint. Weiß sie nicht mehr weiter, ruft sie deshalb zur Not einen menschlichen Operator zu Hilfe.

KI-Telefonate bergen reale Gefahren
Die momentanen Limitierungen der Technologie sollten allerdings nicht über die Möglichkeiten hinwegtäuschen, die Anrufe durch Maschinen bieten - auch missbräuchlich. Im Gespräch mit dem IT-Portal „The Verge“ warnt die KI-Ethikerin Joanna Bryson von der britischen Universität Bath schon vor automatisierten Spam- und Scherzanrufen, fordert eine Kennzeichnungspflicht von KI-Anrufen. „Wenn wir es nicht regulieren, wird eine weniger berühmte Firma als Google sich diese Technologie zunutze machen. Google wird vielleicht das richtige tun, aber das wird nicht jeder.“

Neben betrügerischen Anrufen birgt sprechende KI noch eine andere Gefahr: Sie könnte die Art, wie wir miteinander umgehen, mit der Zeit verändern. Wenn man in einigen Jahren nicht mehr so genau weiß, ob die Stimme am Telefon Mensch oder Maschine gehört, könnten wir Anrufern misstrauischer begegnen als heute. Möglicherweise werden wir unfreundlich, weil ja womöglich eh nur eine Maschine dran ist. Womöglich gar sozial unverträglich, weil wir uns daran gewöhnen, dass Roboter sich für uns mit unseren Mitmenschen herumschlagen.

Noch bleibt im KI-Bereich vieles im Dunkeln, Demonstrationen wie Google Duplex gewähren nur einen kleinen Einblick in das, was uns noch erwartet. Für KI-Expertin Bryson ist aber auch das schon viel wert. „Es ist wichtig, dass sie weiterhin solche Demonstrationen machen, damit die Leute sehen, was da passiert. Was wir nämlich wirklich brauchen, ist eine informierte Bevölkerung!“

 krone.at
krone.at

Das könnte Sie auch interessieren

Kommentar schreiben

Liebe Leserin, lieber Leser,

die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.

Mit freundlichen Grüßen
das krone.at-Team

Kommentare
324

User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB).

Newsletter

Melden Sie sich hier mit Ihrer E-Mail-Adresse an, um täglich den "Krone"-Newsletter zu erhalten.