Psychologia deepfake’ów: Dlaczego nasz mózg nie potrafi ich rozpoznać

Żyjemy w świecie, w którym wiemy, że deepfake'i istnieją, w którym doniesienia o oszustwach opartych na deepfake'ach są codziennością, a obrazy generowane przez AI to stały element naszych mediów społecznościowych. A jednak ludzie wciąż dają się oszukać syntetycznym treściom — w tym osoby dobrze wykształcone, technologicznie zaawansowane, które zostały wyraźnie ostrzeżone, by zachować sceptycyzm. Dlaczego? Odpowiedź tkwi nie tylko w jakości deepfake'ów, ale w fundamentalnych cechach ludzkiego poznania, ukształtowanych przez miliony lat ewolucji w świecie, w którym informacja wizualna była zawsze wiarygodna.

Domyślne założenie realności

Ludzkie przetwarzanie wzrokowe wyewoluowało w środowisku, w którym wszystko, co widzieliśmy, było prawdziwe — nie istniało sfabrykowane wideo, fotografia ani ilustracja na tyle realistyczna, by pomylić ją z rzeczywistością. W efekcie nasz układ wzrokowy ma silne "domyślne założenie realności": przetwarzamy informacje wizualne jako prawdziwe, dopóki nie pojawi się konkretny, wyraźny sygnał, że tak nie jest. To domyślne ustawienie dobrze służyło naszym przodkom. Słabo sprawdza się jednak w świecie zaawansowanych mediów syntetycznych.

Domyślne założenie realności działa na niskim, automatycznym poziomie przetwarzania — zanim zaangażuje się świadome rozumowanie. Zanim nasze celowe, analityczne myślenie zdąży zakwestionować to, co widzimy, nasze automatyczne przetwarzanie już zarejestrowało nagranie jako przedstawiające prawdziwe wydarzenie. Odrzucenie tego automatycznego wrażenia wymaga świadomego wysiłku, a my nie stosujemy go konsekwentnie — zwłaszcza gdy konsumujemy media w swobodnym, niskozaangażowanym trybie, charakterystycznym dla większości korzystania z mediów społecznościowych.

Błąd konfirmacji

Jesteśmy znacznie bardziej łatwowierni wobec informacji, które potwierdzają nasze istniejące przekonania. Nagranie deepfake przedstawiające politycznego przeciwnika w złym świetle jest dla nas znacznie trudniejsze do krytycznej oceny niż deepfake przedstawiający kogoś, kogo popieramy. To nie słabość ani głupota — to cecha sposobu, w jaki wszystkie ludzkie umysły przetwarzają informacje. Błąd konfirmacji działa jak filtr, który podnosi próg sceptycyzmu, gdy informacja jest zgodna z naszym istniejącym światopoglądem.

Kampanie dezinformacyjne wykorzystują to systematycznie. Treści deepfake są tworzone z myślą o konkretnych grupach odbiorców, których istniejące przekonania sprawiają, że chętniej przyjmą je bez weryfikacji. Deepfake, który jedna grupa natychmiast by zakwestionowała, dla innej jest wręcz instynktownie wiarygodny. Zrozumienie tego mechanizmu nie czyni nas na niego odpornymi — wiedza o błędzie konfirmacji nie eliminuje jego działania — ale może nas skłonić do zastosowania dodatkowej ostrożności właśnie wobec treści, w które chcemy uwierzyć.

Emocjonalne przejęcie kontroli

Treści o wysokim ładunku emocjonalnym — takie, które wywołują strach, gniew, oburzenie lub podniecenie — osłabiają zdolność do świadomego rozumowania. Gdy treść wywołuje silną reakcję emocjonalną, część mózgu odpowiedzialna za przetwarzanie emocji (ciało migdałowate) staje się bardzo aktywna, podczas gdy kora przedczołowa — odpowiedzialna za osąd analityczny — wykazuje obniżoną aktywność w porównaniu do stanu wyjściowego. Dosłownie jesteśmy mniej zdolni do racjonalnej oceny, gdy jesteśmy pobudzeni emocjonalnie.

Dezinformacyjne treści deepfake niemal zawsze wywołują silne emocje. Nagranie polityka mówiącego coś skandalicznego, sfałszowany materiał informacyjny o katastrofie, syntetyczne wideo celebryty w kompromitującej sytuacji — wszystkie te formy są zaprojektowane tak, by wywołać reakcje emocjonalne, które zwarcie blokują krytyczną ocenę. Reakcja emocjonalna jest nośnikiem; fałszywe przekonanie jest ładunkiem.

Transfer wiarygodności źródła

Oceniamy informacje częściowo na podstawie ich źródła i przenosimy wiarygodność na treść w zależności od tego, gdzie ją napotykamy. Jeśli deepfake wydaje się pochodzić z zaufanego źródła — organizacji medialnej, zweryfikowanego konta, zaufanego znajomego — przenosimy wiarygodność tego źródła na samą treść. Nie oceniamy jej w pełni niezależnie. Jest to podejście efektywne poznawczo w świecie autentycznych informacji, ale czyni nas podatnymi na podszywanie się pod źródło.

Dlatego zaawansowane operacje dezinformacyjne inwestują ogromne środki w "pranie źródła" — sprawianie, by treść wydawała się pochodzić z wiarygodnych źródeł. Deepfake udostępniony rzekomo z konta zweryfikowanej organizacji medialnej dziedziczy wiarygodność tej organizacji. Fakt, że konto jest fałszywe lub zhakowane, albo że treść jest zrzutem ekranu wyrwanym z kontekstu, często pozostaje niezauważony.

Efekt WYSIATI

Psycholog Daniel Kahneman opisał skłonność poznawczą, którą nazwał "to, co widzisz, jest wszystkim, co istnieje" (WYSIATI, ang. what you see is all there is): oceniając dowody, skłonni jesteśmy korzystać wyłącznie z informacji, które mamy dostępne, i ignorować to, czego nie wiemy. Spontanicznie nie zastanawiamy się nad informacjami, których nam brakuje, a które mogłyby zmienić naszą ocenę.

Oglądając deepfake, naturalnie nie zadajemy sobie pytania: "Czy istnieje możliwość, że to jest sfabrykowane?". Oceniamy to, co widzimy. Kwestia fabrykacji nie pojawia się, dopóki coś jej wyraźnie nie wywoła — konkretny artefakt w nagraniu, nieprawdopodobny element treści, ostrzeżenie od kogoś innego. W braku jawnego bodźca nasz mózg uzupełnia pełny obraz na podstawie niepełnych dowodów. Deepfake wystarczająco dobry, by nie wywołać oczywistej podejrzliwości, jest wystarczająco dobry, by wykorzystać efekt WYSIATI.

Płynność przetwarzania a iluzja prawdy

Badania poznawcze konsekwentnie pokazują, że mylimy płynność przetwarzania — czyli to, jak łatwo przyswajamy informację — z jej prawdziwością. Treść, która jest łatwa do zrozumienia i spójna wizualnie, wydaje się bardziej wiarygodna niż treść chaotyczna czy pofragmentowana. Dobrze wyprodukowane deepfake'i — wyraźne, spójne, profesjonalnie zmontowane — korzystają z tej heurystyki płynności. Doświadczenie naszego mózgu "to jest łatwe do przetworzenia" zamienia się w "to wydaje się prawdziwe".

Ma to praktyczne konsekwencje: w miarę jak technologia generowania AI się rozwija, a deepfake'i stają się coraz bardziej dopracowane, są one coraz łatwiejsze do przetworzenia poznawczego, a przez to — wyłącznie dzięki temu mechanizmowi — coraz bardziej przekonujące. Im wyższa jakość produkcji, tym trudniej nam zachować odpowiedni poziom sceptycyzmu.

Efekt wielokrotnej ekspozycji

Znajomość rodzi wiarygodność. Badania nad "iluzorycznym efektem prawdy" pokazują, że wielokrotna ekspozycja na twierdzenie — nawet fałszywe — zwiększa prawdopodobieństwo, że ocenimy je jako prawdziwe. Gdy nagranie deepfake jest oglądane wielokrotnie lub szeroko rozpowszechniane, każda kolejna ekspozycja zwiększa jego postrzeganą wiarygodność w oczach widzów, niezależnie od jakichkolwiek rzeczywistych dowodów na jego prawdziwość.

Wirusowe kampanie dezinformacyjne wykorzystują to systematycznie. Treść, która szeroko się rozprzestrzenia, jest wielokrotnie oglądana przez wiele osób, a powtarzana ekspozycja sprawia, że wydaje się coraz bardziej prawdziwa. Celem wczesnego wzmacniania zasięgu w kampanii dezinformacyjnej nie jest tylko dotarcie do odbiorców — to również wiarygodność, jaka wynika z pozoru powszechnej akceptacji. "Tyle osób to udostępnia" działa jako dowód społeczny, który blokuje niezależną ocenę.

Granice świadomości

Być może najbardziej otrzeźwiającym wnioskiem z badań jest to, że świadomość istnienia deepfake'ów daje mniejszą ochronę, niż moglibyśmy się spodziewać. Badania przeprowadzone w latach 2023–2025 wykazały, że nawet gdy badanym wyraźnie powiedziano przed obejrzeniem materiału, że część treści jest generowana przez AI i może wprowadzać w błąd, nadal wykazywali oni znaczący poziom podatności na oszustwo. Automatyczne przetwarzanie, które tworzy pierwsze wrażenie realności, jest w dużej mierze odporne na świadome ostrzeżenia. Możemy usłyszeć, że coś może być fałszywe, a mimo to nadal mieć poznawcze doświadczenie, że wygląda to na prawdziwe.

Nie oznacza to, że świadomość jest bezużyteczna — pomaga ona wtedy, gdy świadomie stosujemy nawyki weryfikacyjne. Oznacza to jednak, że nie powinniśmy polegać na ogólnej świadomości jako formie ochrony. Ochrona musi wynikać z nawykowych zachowań weryfikacyjnych, a nie tylko z samej wiedzy o istnieniu deepfake'ów.

Budowanie lepszych nawyków

Biorąc pod uwagę te mechanizmy poznawcze, co możemy faktycznie zrobić? Zatrzymaj się przed udostępnieniem, zwłaszcza gdy odczuwasz emocje. Silna reakcja emocjonalna, która sprawia, że chcesz natychmiast udostępnić treść, to sygnał, by zwolnić, a nie przyspieszyć. Stosuj weryfikację wobec treści, w które chcesz uwierzyć, równie rygorystycznie jak wobec tych, do których podchodzisz sceptycznie. Błąd konfirmacji sprawia, że pożądana treść jest bardziej niebezpieczna niż treść niechciana. Korzystaj z konkretnych narzędzi — wyszukiwania obrazem wstecz, sprawdzania metadanych, wykrywania AI — zamiast polegać na własnej zdolności rozpoznania fałszerstwa wzrokiem. Sprawdzaj źródła pierwotne przed udostępnieniem czegokolwiek, co jest zrzutem ekranu lub zostało udostępnione po wielu krokach od domniemanego źródła. Wyrób w sobie nawyk zadawania pytania "skąd wiem, że to prawdziwe?" wobec każdej ważnej treści wizualnej. Te nawyki nie uczynią cię odpornym na deepfake'i — nic tego nie zapewni — ale znacząco zmniejszą twoją podatność.

Mechanizmy psychologiczne, które sprawiają, że deepfake'i są skuteczne, to głębokie cechy ludzkiego poznania, a nie osobiste porażki. Właściwą reakcją nie jest wstyd z powodu bycia podatnym — to budowanie zewnętrznych nawyków i narzędzi, które rekompensują to, z czym nasz wyewoluowany układ wzrokowy nie potrafi poradzić sobie samodzielnie.