Radikalisierung
DNS alarmiert: KI als neuer Helfer für Extremisten
Die Direktion Staatsschutz Nachrichtendienst (DSN) warnt vor einer potenziellen Zunahme der Gefahr durch den gezielten Einsatz Künstlicher Intelligenz durch extremistische Gruppen. Moderne KI-gestützte Systeme könnten genutzt werden, um „Menschen mit maßgeschneiderter Propaganda zu radikalisieren“, so der zuständige SPÖ-Staatssekretär im Innenministerium, Jörg Leichtfried.
Moderne KI-Systeme könnten laut Verfassungsschutz künftig in der Lage sein, große Datenmengen automatisiert auszuwerten und so individuelle psychologische und soziale Merkmale von Nutzerinnen und Nutzern analysieren. In einem solchen Szenario könnten extremistische Organisationen diese Technologien nutzen, um maßgeschneiderte Inhalte zu entwickeln, die gezielt auf persönliche Überzeugungen, Interessen und Schwachstellen zugeschnitten sind.
So könnte die KI etwa gezielt Personen ausfindig machen, die für radikale Inhalte empfänglich sind und personalisierte extremistische Inhalte generieren. KI-gesteuerte Chatbots und täuschend echte, gefälschte Videos könnten dazu genutzt werden, den Einfluss extremistischer Narrative erheblich zu verstärken.
Für Sicherheitsbehörden große Herausforderung
Herkömmliche Überwachungs- und Gegenmaßnahmen würden hier an ihre Grenzen stoßen, da sich KI-generierte Inhalte dynamisch verändern und klassische Erkennungsmechanismen umgehen können. Besonders problematisch wäre laut Verfassungsschutz, wenn extremistische Akteure generative KI gezielt einsetzen, um beispielsweise Verzerrungen oder Lücken in Sprach-, Bild- oder Desinformationserkennung zu finden und diese ausnutzen. Dadurch würden personalisierte Radikalisierungswege entstehen, die schwerer zu durchbrechen sind als herkömmliche Propaganda.
Öffentlichkeit sensibilisieren
Die DSN arbeitet daher laut eigenen Angaben intensiv mit nationalen und internationalen Partnern zusammen, um für die zukünftigen Herausforderungen gewappnet zu sein. Man setze dabei selbst auf KI-gestützte Erkennungssysteme, die in der Lage sein sollen, KI-generierte und personalisierte Propaganda zu identifizieren. Auch die Zusammenarbeit mit Technologieunternehmen werde entscheidend sein, um Manipulationsversuche frühzeitig zu erkennen.
Darüber hinaus gelte es, die Öffentlichkeit zu sensibilisieren. „Nur mit enger Zusammenarbeit von Staat, Sicherheitsbehörden und Technologieunternehmen sowie durch Stärkung von Medienkompetenz und dem kritischen Umgang mit Online-Inhalten können wir dem voranschreitenden Extremismus im Netz entgegentreten“, betonte Leichtfried.
Liebe Leserin, lieber Leser,
die Kommentarfunktion steht Ihnen ab 6 Uhr wieder wie gewohnt zur Verfügung.
Mit freundlichen Grüßen
das krone.at-Team
User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia (KMM) wieder. In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder der Netiquette widersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch AGB). Hier können Sie das Community-Team via unserer Melde- und Abhilfestelle kontaktieren.