Fesselt sie am Telefon

„Oma Daisy“ und der Kampf gegen KI-Betrüger

Die organisierte Kriminalität nutzt immer mehr künstliche Intelligenz (KI). Einerseits, um an das perfekte Opfer zu gelangen. Andererseits häufen sich Fälle, in denen man von vermeintlich vertrauten Stimmen um Bares gebeten wird. Indes kämpft KI aber auch auf der guten Seite – mit einer eigenen KI-Oma. 

Ende Jänner verhafteten philippinische Behörden 100 Personen, die von einem Callcenter in Manila aus weltweit Menschen abzockten. Und aktuell schickt Thailand rund 5000 derartige Callcenter-Betrüger aus China in ihre Heimat zurück – teils wurden sie unter falschen Versprechungen angelockt und mussten dann in den mitten im Dschungel versteckten Callcentern Zwangsarbeit für die KI-Mafia verrichten.

Heimkehr: Zahlreiche Betrüger, die selbst zu Opfern von Betrügern wurden, werden nun nach China heimgeschickt.(Bild: EPA/Somrerk Kosolwitthayanant)

Wie viele KI-generierte Anrufe gibt es? 
KI-generierte Anrufe werden bei solchen international agierenden Banden immer beliebter. Aber sind sie auch in Österreich ein Problem? Konkrete Zahlen gibt es dazu nicht. Ob der Betrug mit KI-verzerrter Stimme begangen wurde, ändert den Straftatbestand an sich nicht. Weiters können Private, die auf Mitleidsanrufe hereinfallen, meist nicht erkennen, dass es sich um Betrug handelt. Und: Die Dunkelziffer nicht gemeldeter Versuche und erfolgreicher Coups ist – häufig wegen Schamgefühl – enorm hoch.

Man bemerkt manchmal ein roboterhaftes Abspulen und dazwischen „Ruckeln“ der Stimme. Dialekte können teilweise nur mangelhaft geklont werden.

„Krone“-Cyberexperte Dr. Cornelius Granig rät, im Zweifel genau auf die Anrufer-Stimme zu achten.

Bild: Imre Antal

Legen Sie bei Zweifel immer sofort auf!
Und doch ist sich „Krone“-Cyberexperte Dr. Cornelius Granig sicher: „Auch mit dem Zielland Österreich nutzen Betrüger mehr Werkzeuge aus dem Bereich der KI, um besser an ihre Opfer heranzukommen.“ KI werde etwa verwendet, um „geeignete“ Opfer auszuwählen. Dann sei es leicht, Stimmen von Bekannten der oder des Angerufenen zu „klonen“, so Granig. Und zwar täuschend echt. Bei Identitätsdiebstahl und Schockanrufen, so der Cyberprofi, gehe es darum, Opfer schnell aus der Reserve zu locken. Er rät, bei Zweifeln aufzulegen und die vertraute Person, die angeblich am Telefon war, unter ihrer privaten Nummer zu kontaktieren. Meist wisse jene Person nicht, dass ihre Stimme für einen Betrugsversuch verwendet wurde.

Noch sind KI-Anrufe recht leicht zu enttarnen
KI-Werkzeuge, weiß Granig, seien aktuell häufig mit Fehlern behaftet. Man bemerke ein roboterhaftes Abspulen, dazwischen ein „Ruckeln“ der Stimme. Dialekte können nur schlecht geklont werden. Hersteller arbeiten laufend daran, ihre frei zugängliche und für gute sowie schlechte Zwecke einsatzbereite Software zu verbessern. So entwickelte die Firma „ElevenLabs“ etwa eine Technologie, mit der Sprachmitschnitte von Telefonaten hinsichtlich der Verwendung von KI untersucht werden können. Der Wettlauf gegen die Betrüger, die immer mehr wie die eigenen Verwandten und Freunde klingen, geht weiter. 

Fußball-Mäzen tappte in die Millionen-Falle
Einer, den es bereits erwischt hat, ist der ehemalige Präsident des Fußballclubs Inter Mailand, Massimo Moratti. „Ciao Massimo, ich bin es, Guido“, hieß es bei einem Handyanruf. Moratti dachte, er spreche mit seinem Freund, dem Verteidigungsminister Guido Crosetto. Betrüger hatten dessen Stimme nur täuschend ähnlich gefälscht. Moratti solle helfen, italienische Journalisten aus dem Nahen Osten freizukaufen, hieß es. Das Geld würde er wieder zurückbekommen. Eine Mär natürlich – doch Moratti tappte in die Falle – und überwies eine Million Euro an ein Konto in Hongkong. 

Die KI-Oma – ein Hilfsmittel der Zukunft?(Bild: O2)

Oma „Daisy“ raubt Betrügern den letzten Nerv
Sie klingt wie eine freundliche alte Dame und sieht sogar so aus – doch in Wahrheit ist sie eine Hightech-Waffe gegen Betrüger. Der britische Telefonanbieter O2 hat eine KI erschaffen, die sich als redselige Oma ausgibt und Telefonbetrügern die Zeit raubt – mit endlosen Geschichten über ihre Katze, ihren Enkel oder ihr gestricktes Meisterwerk. So verhindert „Daisy“ mit KI-Technik, dass echte Menschen zu Schaden kommen. Mehr als eine Stunde konnte sie die Betrüger in Tests ans Telefon fesseln, bis die Kriminellen die Nerven wegwarfen. „Ich habe alle Zeit der Welt“, quittierte sie mit einem Lächeln die Beschimpfungen der Gauner.