Die Psychologie von Deepfakes: Warum unser Gehirn sie nicht erkennt

Wir leben in einer Welt, in der wir wissen, dass Deepfakes existieren, in der Berichterstattung über Deepfake-Betrug alltäglich ist und in der KI-generierte Bilder eine tägliche Präsenz in unseren Feeds sind. Und dennoch werden Menschen weiterhin von synthetischen Medien getäuscht – einschließlich gut ausgebildeter, technologisch versierter Menschen, die ausdrücklich gewarnt wurden, skeptisch zu sein. Warum? Die Antwort liegt nicht allein in der Qualität der Deepfakes, sondern in grundlegenden Eigenschaften der menschlichen Kognition, die durch Millionen Jahre Evolution in einer Welt geprägt wurden, in der visuelle Informationen zuverlässig real waren.

Der Realitäts-Default

Die menschliche visuelle Verarbeitung hat sich in einer Umgebung entwickelt, in der alles, was man sah, real war – es gab kein manipuliertes Video, keine Fotografie, keine Illustration, die realistisch genug war, um mit der Wirklichkeit verwechselt zu werden. Infolgedessen besitzt unser visuelles System einen starken „Realitäts-Default“: Wir verarbeiten visuelle Informationen als real, es sei denn, es gibt ein spezifisches, deutliches Signal, das das Gegenteil anzeigt. Dieser Default hat unseren Vorfahren gute Dienste geleistet. In einer Welt raffinierter synthetischer Medien dient er uns schlecht.

Der Realitäts-Default arbeitet auf einer niedrigen, automatischen Verarbeitungsebene – noch bevor bewusstes Denken einsetzt. Bis unser bewusstes, analytisches Denken die Gelegenheit hat, das Gesehene zu hinterfragen, hat unsere automatische Verarbeitung das Video bereits als Darstellung eines realen Ereignisses registriert. Diesen automatischen Eindruck zu überschreiben, erfordert bewussten Aufwand, und wir bringen diesen Aufwand nicht konsequent auf – besonders nicht, wenn wir Medien im beiläufigen, wenig aufmerksamen Modus konsumieren, der den Großteil der Social-Media-Nutzung prägt.

Bestätigungsfehler

Wir sind deutlich leichtgläubiger gegenüber Informationen, die unsere bestehenden Überzeugungen bestätigen. Ein Deepfake-Video einer politischen Figur, die wir ablehnen und die sich schlecht verhält, ist für uns viel schwerer kritisch zu bewerten als ein Deepfake-Video einer Person, die wir unterstützen. Das ist keine Schwäche oder Dummheit – es ist ein Merkmal der Art und Weise, wie alle menschlichen Gehirne Informationen verarbeiten. Der Bestätigungsfehler wirkt wie ein Filter, der die Schwelle für Skepsis erhöht, wenn Informationen mit unserem bestehenden Weltbild übereinstimmen.

Desinformationskampagnen nutzen das systematisch aus. Deepfake-Inhalte werden für bestimmte Zielgruppen konzipiert, deren bestehende Überzeugungen es wahrscheinlicher machen, dass sie den Inhalt ohne Prüfung akzeptieren. Ein Deepfake, das von einer Gruppe sofort hinterfragt würde, wird von einer anderen zutiefst geglaubt. Dieses Wissen macht uns nicht immun dagegen – das Wissen um den Bestätigungsfehler hebt seine Wirkung nicht auf –, kann uns aber dazu motivieren, gerade bei Inhalten, die wir glauben wollen, besondere Sorgfalt walten zu lassen.

Die emotionale Übersteuerung

Emotional stark aufwühlende Inhalte – Inhalte, die uns Angst machen, wütend machen, empören oder begeistern – beeinträchtigen bewusstes Denken. Wenn Inhalte eine starke emotionale Reaktion auslösen, wird der für emotionale Verarbeitung zuständige Teil des Gehirns (die Amygdala) hochaktiv, während der präfrontale Kortex – zuständig für analytisches Urteilsvermögen – im Vergleich zum Ausgangszustand eine verringerte Aktivität zeigt. Wir sind buchstäblich weniger fähig zu rationaler Bewertung, wenn wir emotional aktiviert sind.

Deepfake-Desinformationsinhalte sind fast immer emotional aktivierend. Ein Video eines Politikers, der etwas Empörendes sagt, ein gefälschter Nachrichtenclip einer Katastrophe, ein synthetisches Video einer prominenten Person in einer kompromittierenden Situation – all das ist darauf ausgelegt, emotionale Reaktionen zu erzeugen, die kritische Bewertung kurzschließen. Die emotionale Reaktion ist der Vektor; die falsche Überzeugung ist die Nutzlast.

Übertragung von Quellenglaubwürdigkeit

Wir bewerten Informationen teilweise anhand ihrer Quelle, und wir übertragen Glaubwürdigkeit auf Inhalte je nachdem, wo wir ihnen begegnen. Wenn ein Deepfake scheinbar von einer vertrauenswürdigen Quelle stammt – einer Nachrichtenorganisation, einem verifizierten Konto, einem Freund, dem wir vertrauen –, übertragen wir die Glaubwürdigkeit dieser Quelle auf den Inhalt. Wir bewerten den Inhalt nicht vollständig unabhängig neu. Das ist in einer Welt echter Informationen kognitiv effizient, macht uns aber anfällig für Quellenfälschung.

Deshalb investieren ausgeklügelte Desinformationsoperationen stark in „Source Laundering“ – das Erwecken des Anscheins, ein Inhalt stamme von glaubwürdigen Quellen. Ein Deepfake, das scheinbar von einem verifizierten Nachrichtenkonto geteilt wird, erbt die Glaubwürdigkeit dieser Organisation. Dass das Konto gefälscht oder gehackt ist oder dass der Inhalt als Screenshot aus seinem Kontext gerissen wurde, bleibt oft unbemerkt.

Der WYSIATI-Effekt

Der Psychologe Daniel Kahneman beschrieb eine kognitive Tendenz, die er „what you see is all there is“ (WYSIATI) nannte: Bei der Bewertung von Belegen neigen wir dazu, nur die uns verfügbaren Informationen zu nutzen und das zu ignorieren, was wir nicht wissen. Wir denken nicht von selbst über Informationen nach, die uns fehlen könnten und die unsere Einschätzung verändern würden.

Beim Betrachten eines Deepfakes fragen wir uns nicht von Natur aus: „Könnte das irgendwie gefälscht sein?“ Wir bewerten, was wir sehen. Die Frage der Fälschung stellt sich nicht, es sei denn, etwas löst sie explizit aus – ein bestimmtes Artefakt im Video, ein unplausibles Inhaltselement, eine Warnung von jemand anderem. Ohne einen expliziten Auslöser füllt unser Gehirn aus unvollständigen Belegen ein vollständiges Bild. Ein Deepfake, das gut genug ist, um keine offensichtliche Skepsis auszulösen, ist gut genug, um WYSIATI auszunutzen.

Flüssigkeit und die Wahrheitsillusion

Kognitionsforschung zeigt konsequent, dass wir Verarbeitungsflüssigkeit – wie leicht wir Informationen verarbeiten – mit Wahrhaftigkeit gleichsetzen. Inhalte, die leicht zu verstehen und visuell stimmig sind, wirken glaubwürdiger als Inhalte, die verwirrend oder fragmentiert sind. Gut produzierte Deepfakes – klar, kohärent, professionell geschnitten – profitieren von dieser Flüssigkeitsheuristik. Die Erfahrung unseres Gehirns „das ist leicht zu verarbeiten“ wird zu „das scheint real zu sein“.

Das hat eine praktische Konsequenz: Je besser die KI-Generierungstechnologie wird und je polierter Deepfakes werden, desto leichter sind sie kognitiv zu verarbeiten – und allein durch diesen Mechanismus umso überzeugender. Je höher die Produktionsqualität, desto schwerer fällt es uns, angemessene Skepsis aufrechtzuerhalten.

Der Effekt wiederholter Exposition

Vertrautheit erzeugt Glaubwürdigkeit. Forschung zum „Illusory-Truth-Effekt“ zeigt, dass wiederholte Konfrontation mit einer Behauptung – selbst einer falschen – die Wahrscheinlichkeit erhöht, dass wir sie als wahr bewerten. Wird ein Deepfake-Video mehrfach angesehen oder weit verbreitet, erhöht jede Konfrontation seine wahrgenommene Glaubwürdigkeit bei den Betrachtern, unabhängig von tatsächlichen Belegen für seine Wahrheit.

Virale Desinformationskampagnen nutzen das systematisch aus. Inhalte, die sich weit verbreiten, werden von vielen Menschen wiederholt gesehen, und wiederholte Konfrontation lässt sie wahrer erscheinen. Das Ziel früher Verstärkung in einer Desinformationskampagne ist nicht nur Reichweite – es ist die Glaubwürdigkeit, die aus dem Anschein weitverbreiteter Akzeptanz entsteht. „So viele Menschen teilen das“ fungiert als sozialer Beweis, der eigenständige Bewertung kurzschließt.

Die Grenzen des Bewusstseins

Der vielleicht ernüchterndste Forschungsbefund ist, dass das Bewusstsein über Deepfakes weniger Schutz bietet, als man erwarten würde. Studien aus den Jahren 2023–2025 fanden, dass Versuchspersonen selbst dann erhebliche Täuschungsraten zeigten, wenn ihnen vor dem Betrachten ausdrücklich gesagt wurde, dass manche Inhalte KI-generiert und möglicherweise täuschend sein könnten. Die automatische Verarbeitung, die den ersten Eindruck von Realität erzeugt, ist weitgehend unempfänglich für bewusste Warnungen. Man kann uns sagen, dass etwas möglicherweise gefälscht ist, und wir haben trotzdem die kognitive Erfahrung, dass es real erscheint.

Das bedeutet nicht, dass Bewusstsein nutzlos ist – es hilft, wenn wir bewusst Verifikationsgewohnheiten anwenden. Es bedeutet aber, dass wir uns nicht auf allgemeines Bewusstsein als Schutz verlassen sollten. Der Schutz muss aus gewohnheitsmäßigen Verifikationsverhalten kommen, nicht nur aus dem Wissen, dass Deepfakes existieren.

Bessere Gewohnheiten entwickeln

Angesichts der wirkenden kognitiven Mechanismen: Was können wir tatsächlich tun? Innehalten vor dem Teilen, besonders bei emotionaler Erregung. Die starke emotionale Reaktion, die den Wunsch weckt, sofort zu teilen, ist ein Signal, langsamer zu werden, nicht schneller. Wenden Sie Verifikation bei Inhalten, die Sie glauben wollen, ebenso rigoros an wie bei Inhalten, denen Sie skeptisch gegenüberstehen. Der Bestätigungsfehler macht erwünschte Inhalte gefährlicher als unerwünschte. Nutzen Sie konkrete Tools – Rückwärtsbildsuche, Metadatenprüfung, KI-Erkennung – statt sich auf Ihre Fähigkeit zu verlassen, die Fälschung visuell zu erkennen. Prüfen Sie Originalquellen, bevor Sie etwas teilen, das als Screenshot oder mehrfach abgeleitet von seiner angeblichen Herkunft geteilt wurde. Entwickeln Sie die Gewohnheit, sich bei jedem folgenreichen visuellen Inhalt zu fragen: „Woher weiß ich, dass das echt ist?“ Diese Gewohnheiten machen Sie nicht immun gegen Deepfakes – nichts wird das –, aber sie verringern Ihre Anfälligkeit erheblich.

Die psychologischen Mechanismen, die Deepfakes wirksam machen, sind tiefliegende Eigenschaften der menschlichen Kognition, keine persönlichen Versagen. Die angemessene Reaktion ist keine Scham darüber, verwundbar zu sein – sondern der Aufbau der äußeren Gewohnheiten und Werkzeuge, die ausgleichen, was unsere evolutionär geprägte visuelle Verarbeitung allein nicht bewältigen kann.