Wie KI-generierte Bilder in Desinformationskampagnen eingesetzt werden
SUS IT
Eine investigative Aufschlüsselung, wie synthetische Bilder in modernen Desinformationsoperationen hergestellt und verbreitet werden, mit konkreten Beispielen und Erkennungshinweisen.
Das virale Foto eines Politikers bei einem Protest, den er nie besucht hat. Das mit dem Wasserzeichen einer Nachrichtenagentur versehene Bild einer Katastrophe, die nie stattgefunden hat. Das „Augenzeugenfoto“ einer Prominenten bei einer Straftat, zehntausende Male geteilt, bevor es als synthetisch identifiziert wurde. KI-generierte Bilder sind zu einem Standardwerkzeug in Desinformationsoperationen geworden – eingesetzt von staatlichen Akteuren, politischen Gruppen und einzelnen böswilligen Akteuren, um „Beweise“ für Behauptungen zu fabrizieren, die vollkommen falsch sind. Zu verstehen, wie diese Operationen funktionieren – und wie man fabrizierte Bilder identifiziert – wird zunehmend zu einer zentralen Medienkompetenz.
Wie Desinformations-Bildkampagnen aufgebaut sind
Eine ausgereifte Desinformations-Bildkampagne besteht aus mehreren Komponenten, die zusammenwirken. Generierung: KI-Bildtools erzeugen die synthetischen Fotografien. Midjourney, DALL-E, Stable Diffusion und speziell für Desinformation entwickelte Tools (manche nicht öffentlich verfügbar) können auf Abruf fotorealistische Bilder bestimmter Personen in bestimmten Situationen erzeugen. Prompt Engineering ist in Desinformationskreisen zu einer eigenen Fertigkeit geworden – Prompts zu formulieren, die Sicherheitsfilter umgehen und überzeugend dokumentarisch wirkende Bilder erzeugen, ist eine erlernbare Kunst.
Alterung und Degradation: Rohe KI-Bilder wirken oft zu makellos. Desinformationsakteure wenden häufig Nachbearbeitung an, um Bilder wie authentische Fotografien wirken zu lassen – sie fügen Bildrauschen, Kompressionsartefakte, EXIF-Metadaten echter Kameras sowie Farbgebungen hinzu, die bestimmte Geräte oder Plattformen imitieren. Das erschwert die Erkennung sowohl für automatisierte Tools als auch für menschliche Betrachter.
Verbreitung über Netzwerke: Bilder werden zunächst auf Plattformen mit laxer Moderation veröffentlicht und dann im Netzwerk weiterverbreitet, um Aufrufzahlen aufzubauen. Häufig wird ein „Seed“-Beitrag auf einer Randplattform als Screenshot aufgenommen und auf Mainstream-Plattformen weiterverbreitet, sodass die dortige Verbreitung einen Screenshot statt des Originals zeigt – was die Erkennung anhand von Bild-Hashes erschwert. Koordinierte Konten verstärken den Inhalt und treiben ihn zu Trending-Status, bevor die Moderation reagieren kann.
Kontext-Laundering: Die wirksamsten Desinformationsbilder werden von falschem Kontext begleitet, statt vollständig fabriziert zu sein. Echte Bilder, die aus dem Zusammenhang gerissen werden, oder echte Bilder mit erfundenen Bildunterschriften sind oft wirksamer als vollständig synthetische Bilder, weil sie sich schwerer endgültig widerlegen lassen. Das synthetische Bild entfaltet seine größte Wirkung dann, wenn es eine Behauptung „bestätigt“, die bereits auf anderem Weg gesät wurde.
Bemerkenswerte dokumentierte Fälle
Die Pentagon-Explosion 2023: Ein synthetisches Bild, das eine große Explosion in der Nähe des Pentagon zeigte, verbreitete sich im Mai 2023 viral und sorgte kurzzeitig für Kursschwankungen an der Börse, bevor es widerlegt wurde. Das Bild war mit einem KI-Bildtool erzeugt worden und wies keine der kontextuellen Details auf, die es am realen Ort verortet hätten – ein Detail, das viele, die es teilten, übersahen.
Politische Deepfakes bei mehreren Wahlen 2024: Bei den Wahlen 2024 in mehreren Ländern kursierten KI-generierte Bilder von Kandidaten in kompromittierenden oder kriminellen Kontexten weitverbreitet in sozialen Medien. Analysen nach den Wahlen identifizierten koordinierte Kampagnen mit synthetischen Bildern in mindestens acht nationalen Wahlen.
Synthetisches humanitäres Bildmaterial: KI-generierte Bilder von Konflikt- und Katastrophengebieten wurden sowohl genutzt, um die Aufmerksamkeit für reale Ereignisse zu steigern, als auch um sie zu unterdrücken – etwa durch synthetische Bilder von Leid, um Spenden für betrügerische Wohltätigkeitsorganisationen zu motivieren, oder durch synthetische Bilder, die vorgeben, Konflikte zu zeigen, die weniger gravierend seien als berichtet.
Wie man KI-generierte Desinformationsbilder erkennt
Erkennung beginnt mit genauer Prüfung vor dem Teilen. Die wichtigste Gewohnheit ist innezuhalten, bevor man ein Bild verbreitet, das eine starke emotionale Reaktion auslöst oder eine bereits bestehende Überzeugung bestätigt – genau solche Bilder sind es, die Desinformationskampagnen erzeugen sollen.
Die Rückwärts-Bildsuche (Google Bilder, TinEye, Yandex) ist ein erstes Standardwerkzeug. Existiert das Bild vor dem behaupteten Zeitpunkt nirgends im Web, handelt es sich entweder um echte aktuelle Berichterstattung oder um eine Neuerstellung. Taucht es in Zusammenhängen auf, die nicht zum behaupteten Kontext passen, wird es irreführend verwendet.
Details genau prüfen. KI-Bildgenerierung ist 2026 hervorragend darin, globale Kohärenz herzustellen – eine Szene wirkt auf den ersten Blick stimmig –, kämpft aber bei genauer Betrachtung weiterhin mit spezifischen Details. Hände und Finger bleiben bei den meisten Modellen eine Schwachstelle. Hintergrundtext ist oft unsinnig oder subtil falsch. Bei genauer Betrachtung von Schatten und Reflexionen zeigen sich Beleuchtungsinkonsistenzen. Institutionelle Logos, Abzeichen und Beschilderungen sind häufig leicht falsch. Personen im Hintergrund können unscharf sein oder anatomische Fehler aufweisen.
Metadaten prüfen. Echte dokumentarische Fotografien tragen in der Regel EXIF-Daten: Kameramodell, GPS-Koordinaten, Zeitstempel, Objektivangaben. KI-generierte Bilder haben in der Regel keine EXIF-Daten oder Metadaten, die nicht zum behaupteten Kontext passen. Tools wie Jeffrey's Exif Viewer oder ExifTool machen diese Prüfung einfach. Zu beachten ist, dass Metadaten fabriziert oder entfernt werden können – das Fehlen verdächtiger Metadaten ist kein Beweis für Echtheit, aber das Vorhandensein widersprüchlicher Metadaten ist ein Warnsignal.
KI-Erkennungstools nutzen. SUS IT und ähnliche Tools analysieren die spektralen und statistischen Eigenschaften von Bildern, um Signaturen von KI-Generierung zu identifizieren. Diese Tools untersuchen unter anderem Merkmale im Frequenzbereich (KI-Bilder weisen charakteristische Muster in ihrer Fourier-Transformation auf), Artefakte der Textursynthese sowie modellspezifische Fingerabdrücke generativer Systeme. Bei Bildern, die nach der Generierung komprimiert, zugeschnitten oder weiterverarbeitet wurden, ist die Erkennung schwieriger – aber ein starkes Erkennungssignal ist dennoch ein aussagekräftiger Beweis.
Die Quellenkette prüfen. Wo wurde dieses Bild zuerst veröffentlicht? Screenshots von Screenshots verschleiern den Ursprung. Je weiter man von der Originalquelle entfernt ist, desto weniger lässt sich verifizieren. Bei Nachrichtenbildern sollte geprüft werden, ob eine seriöse Nachrichtenagentur (AP, Reuters, AFP) das Bild mit redaktioneller Verifizierung veröffentlicht hat. Ist ein Bild nur als Screenshot eines nicht verifizierbaren Social-Media-Beitrags verfügbar, sollte es als unverifiziert behandelt werden.
Die forensische Perspektive
Digitale Forensik-Tools gehen über die sichtbare Prüfung hinaus. Error Level Analysis (ELA) hebt Bereiche eines Bildes hervor, die unterschiedlich stark komprimiert wurden, was auf Manipulation hindeuten kann – wobei diese Technik bei moderner KI-Generierung an Grenzen stößt, da diese eine konsistente Kompression über das gesamte Bild erzeugt. Die Frequenzbereichsanalyse untersucht die Fourier-Transformation eines Bildes auf Muster, die mit KI-Generierung assoziiert sind – eine Methode, die sich durch Nachbearbeitung schwerer aushebeln lässt als eine Analyse auf Pixelebene. Die Rauschmusteranalyse identifiziert das spezifische Rauschprofil unterschiedlicher Kamerasensoren, wodurch sich Behauptungen über die Herkunft eines Bildes bestätigen oder widerlegen lassen. Professionelle Nachrichtenorganisationen setzen eine Kombination dieser Techniken zusammen mit geschulten Analysten ein.
Reaktionen auf Plattformebene
Die großen Plattformen haben erheblich in die KI-Bilderkennung investiert, verfolgen dabei aber unterschiedliche Ansätze. Meta hat eine automatische „Mit KI erstellt“-Kennzeichnung eingeführt, die auf C2PA-Metadaten beruht (ein technischer Standard, der es erlaubt, KI-Generierung bereits bei der Erstellung kryptografisch in der Bilddatei zu vermerken) sowie auf eigenen Erkennungsmodellen. YouTube wendet eine ähnliche Erkennung auf bildhaltige Inhalte an. TikTok kombiniert automatische Erkennung mit einer verpflichtenden Offenlegung durch die Ersteller. Der von Adobe, Microsoft und anderen unterstützte C2PA-Standard stellt die vielversprechendste langfristige Lösung dar – er bettet einen manipulationssicheren Nachweis über Herkunft und Bearbeitungsverlauf eines Bildes direkt in die Datei ein. Die Verbreitung nimmt zu, ist aber noch nicht flächendeckend.
Was Leserinnen und Betrachter tun können
Die praktischen Empfehlungen sind einfach, erfordern aber konsequente Anwendung. Vor dem Teilen innehalten. Genau die emotionale Reaktion, die einen dazu bringt, etwas sofort zu teilen, ist es, die Desinformationskampagnen ausnutzen. Die Quelle prüfen. Zwei verlässliche, unabhängige Quellen sind das Minimum für jede außergewöhnliche Behauptung. Auf Fehlendes achten. Desinformationsbildern fehlt typischerweise der bestätigende Kontext, den echte dokumentarische Fotografie liefert – keine Originalquelle, keine Übernahme durch eine Nachrichtenagentur, keine Berichterstattung durch lokale Medien am dargestellten Ort. Verfügbare Tools nutzen. Rückwärts-Bildsuche, Metadatenprüfung und KI-Erkennungstools sind kostenlos und in unter einer Minute anwendbar. Vermutete Desinformation melden – an die Plattform und, wo relevant, an Fact-Checking-Organisationen. Je schneller synthetische Inhalte markiert werden, desto geringer der angerichtete Schaden.