KI-Fälschungen fluten soziale Medien – wie Fake-Inhalte Demokratien bedrohen
Franka Meister
KI-Fälschungen fluten soziale Medien – wie Fake-Inhalte Demokratien bedrohen
Künstliche Intelligenz verändert Online-Inhalte auf immer täuschendere Weise. Von gefälschten Interviews bis hin zu KI-generierten Influencern verbreitet sich manipuliertes Material rasant über soziale Plattformen. Regierungen und Expert:innen reagieren nun auf die wachsende Herausforderung, Wahrheit und Fiktion voneinander zu unterscheiden.
Ab August setzt die EU neue Regeln durch, die klare Kennzeichnungen für KI-erzeugte Inhalte vorschreiben. Damit soll Nutzer:innen geholfen werden, echte Informationen von synthetischen Fälschungen zu unterscheiden. Gleichzeitig warnen Forscher:innen wie die Politikwissenschaftlerin Katharina Nocun, dass Desinformationskampagnen zunehmend raffinierter werden.
Ein rechtsextremer Instagram-Account mit über einer Million Followern präsentiert eine KI-generierte Frau, die eine OnlyFans-Seite mit Fuß-Fetisch-Inhalten bewirbt. Zwischen solchen Posts werden spaltende Kommentare zu aktuellen Konflikten verbreitet. In einem anderen Fall wurden KI-generierte Rabbiner genutzt, um antisemitische Klischees auszubeuten und Vorurteile durch gezielte Inhalte zu monetarisieren.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
In Deutschland haben rechtsextreme Gruppen gefälschte "Straßenumfragen" in Umlauf gebracht. In einer davon fordert eine erfundene 18-jährige Frau Massenabschiebungen. Der verspielt animierte Stil der Umfrage, der ein bekanntes Studio imitiert, ließ die Botschaft für ahnungslose Zuschauer:innen harmloser wirken.
Auch das Weiße Haus setzt auf KI-gestützte Propaganda: Seit der Eskalation der Spannungen mit dem Iran inszeniert es auf Social Media eine digitale Militärparade. Die Kampagne nutzt machohafte Bilder und gamifizierte Ästhetik, um junge Männer anzusprechen. Selbst Popkultur-Elemente wie rechtsextreme Memes und comicartige Darstellungen werden für politische Botschaften zweckentfremdet.
KI zielt dabei nicht nur auf junge Zielgruppen ab – es werden sogar ganze gefälschte "Schwestern" erfunden, um Narrative über verschiedene Altersgruppen hinweg zu verbreiten. Die Flut solcher Inhalte birgt die Gefahr, dass Menschen alles, was sie online sehen, infrage stellen.
Der Aufstieg KI-generierter Fälschungen stellt eine direkte Bedrohung für das Vertrauen in digitale Medien dar. Während Regierungen Kennzeichnungsregeln einführen und Expert:innen Desinformation verfolgen, verschärft sich der Kampf um die Bewahrung faktischer Integrität. Die Folgen könnten weit über soziale Medien hinausreichen und die öffentliche Debatte sowie demokratische Prozesse beeinträchtigen.
