KI-Fälschungen fluten soziale Medien – wer steckt dahinter und warum?
Darko Carsten
KI-Fälschungen fluten soziale Medien – wer steckt dahinter und warum?
KI-generierte Fälschungen verbreiten sich in sozialen Medien in alarmierendem Tempo. Von erfundenen Interviews bis hin zu gezielt eingesetzten Narrativen – diese Tools zielen mittlerweile auf Nutzer aller Altersgruppen ab. Experten warnen, dass die Flut solcher Inhalte dazu führt, dass Menschen alles, was sie online sehen, infrage stellen.
In Deutschland verbreiten rechtsextreme Gruppen gefälschte "Straßenumfragen", um spaltende Botschaften zu verstärken. In einem Video fordert eine angebliche 18-jährige blonde Frau Massenabschiebungen – ein Gespräch, das nie stattfand. Die Desinformationsforscherin Karolin Schwarz deckte zudem KI-generierte Rabbiner in Videos auf, die antisemitische Klischees ausnutzen, um Vorurteile zu schüren.
Untersuchungen zeigen, dass viele dieser Fake-Accounts gewinnorientiert agieren. Sie setzen auf Sexualisierung, vorgetäuschte Verletzlichkeit oder erfinden sogar vollständige fiktive Identitäten – wie etwa KI-"Schwestern" –, um bestimmte Erzählungen zu verbreiten. Unterdessen bedient sich auch das Weiße Haus eigener Social-Media-Strategien: Es mischt rechtsextreme Memes, comicartige Darstellungen und spielerisch aufbereitete Militärinszenierungen, um junge Männer angesichts der Spannungen mit dem Iran anzusprechen.
Die EU geht gegen das Problem vor. Ab August müssen KI-generierte Inhalte klar gekennzeichnet werden, damit Nutzer Fakt und Fiktion besser unterscheiden können. Die Politikwissenschaftlerin Katharina Nocun, die sich mit Desinformation beschäftigt, warnt, dass Algorithmen mittlerweile jedes Ereignis instrumentalisieren können – sie generieren Reichweiten und monetarisieren sie, noch bevor die Wahrheit ans Licht kommt.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Die Skepsis gegenüber Social-Media-Inhalten wächst, da KI-Fälschungen immer schwerer zu erkennen sind. Die neuen Kennzeichnungspflichten der EU sollen für mehr Transparenz sorgen, doch die Herausforderung bleibt bestehen. Da viele dieser Aktivitäten von finanziellen Interessen getrieben werden, zeigt sich kein Ende der Verbreitung manipulierter Inhalte.
