Verfassungsschutz warnt vor KI-Nutzung durch Extremisten

Moderne KI-Systeme könnten dazu genutzt werden, "Menschen mit maßgeschneiderter Propaganda zu radikalisieren", erklärte SPÖ-Staatssekretär Jörg Leichtfried am Donnerstag. Die Entwicklung werde "ganz genau" beobachtet.

KI als Werkzeug für personalisierte Propaganda

Laut Verfassungsschutz könnten KI-Systeme künftig automatisiert große Datenmengen auswerten, um psychologische und soziale Merkmale einzelner Personen zu analysieren. Extremistische Akteure wären damit in der Lage, Inhalte zu erstellen, die gezielt auf persönliche Überzeugungen und Schwachstellen zugeschnitten sind. Neben personalisierten Texten könnten auch täuschend echte gefälschte Videos und KI-gesteuerte Chatbots eingesetzt werden, um radikale Botschaften zu verstärken.

Herausforderung für Sicherheitsbehörden

Konventionelle Überwachungs- und Gegenmaßnahmen stoßen hier laut DSN an ihre Grenzen, da KI-generierte Inhalte sich dynamisch verändern und gängige Erkennungssysteme umgehen können. Besonders gefährlich sei der gezielte Einsatz generativer KI, um Schwachstellen in Erkennungsmechanismen für Sprache, Bilder oder Desinformation auszunutzen. Dies könnte zu schwer unterbrechbaren Radikalisierungsprozessen führen.

Kooperation und Aufklärung

Um auf diese Bedrohung vorbereitet zu sein, arbeitet die DSN nach eigenen Angaben eng mit nationalen und internationalen Partnern zusammen. KI-gestützte Erkennungssysteme sollen künftig helfen, personalisierte Propaganda frühzeitig zu identifizieren. Die Zusammenarbeit mit Technologieunternehmen sei ebenso entscheidend wie die Stärkung der Medienkompetenz in der Bevölkerung. „Nur mit enger Zusammenarbeit von Staat, Sicherheitsbehörden und Technologieunternehmen sowie durch Stärkung von Medienkompetenz und dem kritischen Umgang mit Online-Inhalten können wir dem voranschreitenden Extremismus im Netz entgegentreten“, betonte Leichtfried.

(APA/Red)