La psicologia dei deepfake: perché il nostro cervello non riesce a riconoscerli

Viviamo in un mondo in cui sappiamo che i deepfake esistono, in cui le notizie su frodi basate su deepfake sono ormai all'ordine del giorno, e in cui le immagini generate dall'IA sono una presenza quotidiana nei nostri feed. Eppure le persone continuano a farsi ingannare dai media sintetici, comprese persone istruite e tecnologicamente sofisticate a cui era stato esplicitamente detto di essere scettiche. Perché? La risposta non sta solo nella qualità dei deepfake, ma in caratteristiche fondamentali della cognizione umana, plasmate da milioni di anni di evoluzione in un mondo in cui l'informazione visiva era affidabilmente reale.

Il default della realtà

L'elaborazione visiva umana si è evoluta in un ambiente in cui tutto ciò che vedevi era reale: non esistevano video fabbricati, fotografie, o illustrazioni abbastanza realistiche da poter essere confuse con la realtà. Di conseguenza, il nostro sistema visivo ha un forte "default della realtà": elaboriamo l'informazione visiva come reale a meno che non ci sia un segnale specifico ed evidente che non lo sia. Questo default ha servito bene i nostri antenati. Ci serve male in un mondo di media sintetici sofisticati.

Il default della realtà opera a un livello di elaborazione basso e automatico, prima che entri in gioco il ragionamento cosciente. Nel momento in cui il nostro pensiero deliberato e analitico ha l'opportunità di mettere in dubbio ciò che stiamo vedendo, la nostra elaborazione automatica ha già registrato il video come raffigurazione di un evento reale. Superare questa impressione automatica richiede uno sforzo esplicito, e non applichiamo costantemente quello sforzo, specialmente quando consumiamo contenuti nella modalità casuale e a bassa attenzione tipica dell'uso dei social media.

Il bias di conferma

Siamo molto più creduloni riguardo alle informazioni che confermano le nostre convinzioni esistenti. Un video deepfake di una figura politica che non ci piace mentre si comporta male è molto più difficile da valutare in modo critico rispetto a un deepfake di qualcuno che sosteniamo. Non si tratta di debolezza o stupidità: è una caratteristica del modo in cui tutte le menti umane elaborano l'informazione. Il bias di conferma funziona come un filtro che alza la soglia dello scetticismo quando l'informazione è allineata alla nostra visione del mondo già esistente.

Le campagne di disinformazione sfruttano questo meccanismo in modo sistematico. I contenuti deepfake sono progettati per pubblici specifici le cui convinzioni esistenti li rendono più propensi ad accettarli senza esame critico. Un deepfake che verrebbe immediatamente messo in dubbio da un gruppo risulta visceralmente credibile per un altro. Capire questo meccanismo non ci rende immuni: sapere del bias di conferma non ne elimina l'effetto, ma può motivarci ad applicare un esame più attento proprio ai contenuti che vogliamo credere.

Il sovraccarico emotivo

I contenuti emotivamente molto intensi, quelli che ci spaventano, ci fanno arrabbiare, ci indignano o ci eccitano, compromettono il ragionamento deliberato. Quando un contenuto provoca una forte reazione emotiva, la parte del cervello responsabile dell'elaborazione emotiva (l'amigdala) diventa molto attiva, mentre la corteccia prefrontale, responsabile del giudizio analitico, mostra un'attività ridotta rispetto al livello base. Siamo letteralmente meno capaci di una valutazione razionale quando siamo emotivamente attivati.

I contenuti deepfake di disinformazione sono quasi sempre progettati per attivare le emozioni. Un video di un politico che dice qualcosa di scandaloso, una clip di finta cronaca su una catastrofe, un video sintetico di una celebrità in una situazione compromettente: tutti questi contenuti sono pensati per generare risposte emotive che cortocircuitano la valutazione critica. La risposta emotiva è il vettore; la falsa convinzione è il carico.

Il trasferimento di credibilità dalla fonte

Valutiamo l'informazione in parte in base alla sua fonte, ed estendiamo la credibilità al contenuto in base a dove lo incontriamo. Se un deepfake sembra provenire da una fonte fidata, un'organizzazione giornalistica, un account verificato, un amico di cui ci fidiamo, estendiamo la credibilità di quella fonte al contenuto. Non rivalutiamo pienamente il contenuto in modo indipendente. Questo è cognitivamente efficiente in un mondo di informazione genuina, ma ci rende vulnerabili all'impersonificazione della fonte.

Ecco perché le operazioni di disinformazione sofisticate investono molto nel "riciclo" della fonte, facendo apparire i contenuti come se provenissero da fonti credibili. Un deepfake condiviso da quello che sembra un account verificato di un'organizzazione giornalistica eredita la credibilità di quell'organizzazione. Il fatto che l'account sia falso o violato, o che il contenuto sia stato catturato con uno screenshot e decontestualizzato, spesso passa inosservato.

L'effetto WYSIATI

Lo psicologo Daniel Kahneman ha descritto una tendenza cognitiva che ha chiamato "quello che vedi è tutto ciò che c'è" (WYSIATI, what you see is all there is): quando valutiamo delle prove, tendiamo a usare solo le informazioni che abbiamo a disposizione e a ignorare ciò che non sappiamo. Non pensiamo spontaneamente alle informazioni che potrebbero mancarci e che cambierebbero la nostra valutazione.

Quando guardiamo un deepfake, non ci chiediamo naturalmente: "c'è un modo in cui questo potrebbe essere fabbricato?". Valutiamo quello che vediamo. La domanda sulla fabbricazione non emerge a meno che qualcosa non la faccia esplicitamente scattare: un artefatto specifico nel video, un elemento di contenuto implausibile, un avvertimento da parte di qualcun altro. In assenza di un innesco esplicito, il nostro cervello completa un quadro pieno partendo da prove incomplete. Un deepfake abbastanza buono da non far scattare un esame critico evidente è abbastanza buono da sfruttare il WYSIATI.

La fluidità e l'illusione di verità

La ricerca cognitiva ha dimostrato in modo coerente che confondiamo la fluidità di elaborazione, cioè quanto facilmente elaboriamo un'informazione, con la sua veridicità. Un contenuto facile da capire e visivamente coerente sembra più credibile di un contenuto confuso o frammentato. I deepfake ben prodotti, chiari, coerenti, montati professionalmente, beneficiano di questa euristica della fluidità. L'esperienza del nostro cervello di "questo è facile da elaborare" diventa "questo sembra reale".

Questo ha un'implicazione pratica: man mano che la tecnologia di generazione IA migliora e i deepfake diventano più curati, diventano anche cognitivamente più facili da elaborare, e quindi più convincenti solo per questo meccanismo. Migliore è la qualità di produzione, più difficile diventa per noi mantenere uno scetticismo adeguato.

L'effetto dell'esposizione ripetuta

La familiarità genera credibilità. La ricerca sull'"effetto di verità illusoria" mostra che l'esposizione ripetuta a un'affermazione, anche falsa, aumenta la probabilità che la valutiamo come vera. Quando un video deepfake viene visto più volte o diffuso ampiamente, ogni esposizione aumenta la sua credibilità percepita nella mente di chi lo guarda, indipendentemente da qualsiasi prova reale della sua verità.

Le campagne di disinformazione virali sfruttano questo meccanismo in modo sistematico. Un contenuto che si diffonde ampiamente viene visto ripetutamente da molte persone, e l'esposizione ripetuta lo fa sembrare più vero. L'obiettivo dell'amplificazione iniziale in una campagna di disinformazione non è solo la portata: è la credibilità che deriva dall'apparenza di un'accettazione diffusa. "Così tante persone lo stanno condividendo" funge da prova sociale che cortocircuita la valutazione indipendente.

I limiti della consapevolezza

Forse il risultato di ricerca più sconcertante è che la consapevolezza dell'esistenza dei deepfake offre meno protezione di quanto ci aspetteremmo. Studi condotti tra il 2023 e il 2025 hanno scoperto che, anche quando ai soggetti veniva detto esplicitamente prima della visione che alcuni contenuti erano generati dall'IA e potevano essere ingannevoli, mostravano comunque tassi di inganno significativi. L'elaborazione automatica che genera l'impressione iniziale di realtà è in gran parte impermeabile agli avvertimenti deliberati. Possiamo sapere che qualcosa è potenzialmente falso e avere comunque l'esperienza cognitiva che sembri reale.

Questo non significa che la consapevolezza sia inutile: aiuta quando applichiamo deliberatamente abitudini di verifica. Ma significa che non dovremmo affidarci alla consapevolezza generale come protezione. La protezione deve venire da comportamenti abituali di verifica, non solo dal sapere che i deepfake esistono.

Costruire abitudini migliori

Dati questi meccanismi cognitivi, cosa possiamo fare davvero? Fermati prima di condividere, specialmente se sei emotivamente coinvolto. La forte reazione emotiva che ti spinge a condividere immediatamente è un segnale per rallentare, non per accelerare. Applica la verifica ai contenuti che vuoi credere con lo stesso rigore di quelli verso cui sei scettico. Il bias di conferma rende i contenuti desiderati più pericolosi di quelli indesiderati. Usa strumenti concreti, come la ricerca inversa delle immagini, il controllo dei metadati e il rilevamento IA, invece di affidarti alla tua capacità di riconoscere visivamente il falso. Controlla le fonti originali prima di condividere qualsiasi cosa che sia stata catturata con uno screenshot o condivisa attraverso più passaggi rispetto alla sua presunta origine. Costruisci l'abitudine di chiederti "come faccio a sapere che questo è reale?" per qualsiasi contenuto visivo ad alto rischio. Queste abitudini non ti renderanno immune ai deepfake, niente lo farà, ma riducono in modo sostanziale la tua vulnerabilità.

I meccanismi psicologici che rendono efficaci i deepfake sono caratteristiche profonde della cognizione umana, non fallimenti personali. La risposta giusta non è la vergogna per essere vulnerabili: è costruire abitudini e strumenti esterni che compensino ciò che la nostra elaborazione visiva evoluta non riesce a gestire da sola.