„Düsterer Ausblick“

Europol warnt vor den Schattenseiten von ChatGPT

Chatbots werden laut Europol künftig nicht nur genutzt, um die Menschheit zu verbessern - sondern auch, um sie zu betrügen.

(Bild: AI Farm - stock.adobe.com)

Europol warnt davor, dass Kriminelle Chatbots wie ChatGPT für Betrug und andere Cyberverbrechen missbrauchen könnten. Die sich schnell entwickelnden Fähigkeiten der KI-Programme würden künftig nicht nur genutzt, um die Menschheit zu verbessern - sondern auch, um sie zu betrügen, so die europäische Polizeibehörde in einem am Montag veröffentlichten Bericht, der angesichts dessen einen „düsteren Ausblick“ bietet.

Europols neues Innovationslabor untersuchte den Einsatz von Chatbots im Allgemeinen, konzentrierte sich aber auf ChatGPT, da es sich um den derzeit bekanntesten und meistbenutzten Chatbot handelt. Fazit: Kriminelle könnten die KI-Software nutzen, um den Rechercheprozess in Bereichen außerhalb ihres Wissens „erheblich zu beschleunigen“. Der Chatbot könne etwa Informationen geben, „wie man in ein Haus einbricht, bis hin zu Terrorismus, Cyberkriminalität und sexuellem Missbrauch von Kindern“, hieß es.

Besonders wirksam könnte ChatGPT laut Europol für Phishing-Angriffe eingesetzt werden, da es bestimmte Sprachstile imitieren könne.  ChatGPTs Fähigkeit, schnell echt wirkende Texte zu verfassen, mache es zudem „ideal für Propaganda- und Desinformationszwecke“. ChatGPT könne auch zum Programmieren genutzt werden, erklärte die Behörde. Das sei besonders nützlich für Kriminelle mit wenig oder gar keinem Wissen in diesem Bereich.

Bewusstseinsschärfung
Zwar verfüge ChatGPT über Sicherheitsvorkehrungen und beantworte keine Fragen, die als schädlich oder voreingenommen eingestuft wurden, erklärte Europol. Durch geschickte Eingabeaufforderungen könne das aber umgangen werden.

KI befinde sich noch im Anfangsstadium und eine Verbesserung ihrer Fähigkeiten sei „zu erwarten“, fügte die Behörde hinzu. „Es ist von größter Wichtigkeit, dass das Bewusstsein für dieses Thema geschärft wird, um sicherzustellen, dass alle potenziellen Schlupflöcher so schnell wie möglich entdeckt und geschlossen werden.“