Profili social generati dall'IA: la nuova ondata di catfishing

Il catfishing, ovvero fingere di essere qualcuno che non sei online, non è una novità. Ma gli strumenti a disposizione degli operatori di identità false nel 2026 hanno reso la pratica notevolmente più sofisticata e più difficile da individuare. Le foto del profilo generate dall'intelligenza artificiale, i motori automatizzati della personalità e le cronologie sintetiche dei post hanno creato una nuova categoria di identità online false che per la maggior parte degli osservatori umani è indistinguibile da una persona reale.

Cosa rende diversi i profili falsi moderni

Il catfishing tradizionale richiedeva il furto di foto dai social media di una persona reale e la speranza che non venissero trovate tramite una ricerca di immagini inversa. I moderni profili falsi basati sull'intelligenza artificiale utilizzano volti sintetizzati che non sono mai esistiti: nessun originale da trovare, nessuna persona reale a cui risalire. Strumenti come Midjourney, DALL-E e modelli di generazione di volti appositamente realizzati possono produrre centinaia di volti unici e fotorealistici su richiesta. L'operatore sceglie un profilo demografico, un'estetica approssimativa e genera un volto che non appartiene a nessuno.

Lo stack delle personalità dell'IA

I profili falsi più sofisticati non sono solo un volto: sono un'intera persona. Il volto è generato da un modello di immagine. La biografia è scritta secondo un modello linguistico che produce dettagli di vita credibili e specifici. I post vengono generati e pianificati automaticamente, mantenendo un profilo di voce e interessi coerente nel corso dei mesi. I commenti e le risposte ad altri account sono prodotti da sistemi di intelligenza artificiale che analizzano il contesto e generano risposte plausibili e basate sul sentimento umano. Il risultato è un account "vivo" da oltre un anno, con una personalità coerente e che interagisce in modo naturale con utenti reali, il tutto senza che un operatore umano debba fare nulla dopo la configurazione iniziale.

Chi gestisce questi conti e perché

Le reti di personalità AI servono a diversi scopi. Nelle operazioni di influenza, vengono utilizzati per amplificare specifiche narrazioni politiche, creare l’apparenza di un sostegno popolare e molestare giornalisti o critici. Nelle truffe romantiche, vengono utilizzati per costruire relazioni emotive con gli obiettivi prima di richiedere denaro. Nelle frodi commerciali, vengono utilizzati per pubblicare recensioni false, gonfiare il numero dei follower per la vendita o impersonare marchi. In alcuni casi, vengono utilizzati semplicemente per raccogliere dati sul coinvolgimento o fungere da vettori per la distribuzione di malware.

Perché la ricerca inversa delle immagini non funziona più

Per anni, la ricerca inversa di immagini è stata la prima linea di difesa contro i profili falsi. Se non riesci a trovare la foto da nessun'altra parte, l'account potrebbe essere reale; se lo hai trovato utilizzato da più account diversi, è stato chiaramente rubato. I volti generati dall'intelligenza artificiale interrompono completamente questa difesa. Ogni volto è unico: non esiste da nessun'altra parte su Internet perché è stato creato appositamente per questo account. Una ricerca di immagini inversa restituisce zero corrispondenze, che storicamente segnalavano l'autenticità. Ora non segnala nulla.

Rilevamento comportamentale: cosa sbagliano gli AI Personas

Nonostante la loro sofisticatezza, i profili falsi basati sull’intelligenza artificiale presentano debolezze comportamentali. Tendono a impegnarsi in orari innaturalmente coerenti piuttosto che in orari irregolari del programma di una persona reale. Le loro conversazioni, sebbene plausibili, spesso mancano del tipo di specifica continuità biografica che le persone reali mantengono naturalmente: potrebbero affermare di essere cresciute a Chicago in una conversazione e a Portland in un'altra, perché il modello linguistico non mantiene una memoria persistente. Gli argomenti che pubblicano sono determinati algoritmicamente da modelli di coinvolgimento piuttosto che da un genuino interesse personale, portando a contenuti che sembrano leggermente ottimizzati. E quando vengono poste domande specifiche e verificabili sulla loro identità dichiarata - quale scuola hanno frequentato, qual è l'indirizzo del loro datore di lavoro - deviano o inventano dettagli che non sono verificabili.

Verifica su tutto il Web come difesa

Il modo più affidabile per verificare se un account rappresenta una persona reale è verificare se quella persona esiste ovunque al di fuori della piattaforma. Le persone reali lasciano tracce: vecchi post sui forum, directory degli ex studenti, siti web dei datori di lavoro, menzioni di notizie, foto taggate da altri account, profili professionali. Quando cerchi insieme il nome, il datore di lavoro e l'ubicazione di una persona dichiarata, dovresti trovare almeno alcune prove corroboranti. I personaggi IA, non importa quanto sofisticati, non hanno quasi mai questo tipo di presenza sul web fuori piattaforma perché per costruirla sarebbe necessario compromettere le informazioni di una persona reale. BOT or NOT automatizza questa verifica a livello web: cerca l'account e l'identità rivendicata su più fonti web, alla ricerca di prove corroboranti di una persona reale. Quando non esiste, quell’assenza è di per sé un segnale forte.

Passaggi pratici quando sei sospettoso

Se un profilo ti sembra strano, inizia dalle basi: controlla attentamente la foto del profilo (in particolare bordi, sfondo e gioielli); cercare il nome utente su più piattaforme; porre domande specifiche e verificabili sui dettagli biografici dichiarati; guardare la cronologia dell'account per verificare la coerenza innaturale della pubblicazione; e controlla se il coinvolgimento che ricevono sembra autentico. Se hai a che fare con un potenziale truffatore romantico, un influencer con cui stai pensando di lavorare o un account che si sta comportando in modo sospetto nei tuoi confronti o nella tua comunità, una scansione BOT or NOT ti fornirà un'analisi documentata - non solo l'istinto - su cui agire.

Il quadro più ampio

I personaggi generati dall’intelligenza artificiale sono un problema tecnologico e richiedono una risposta tecnologica. Il riconoscimento dei modelli umani si è evoluto per rilevare comportamenti ingannevoli nelle interazioni sociali in tempo reale: non è stato creato per valutare se migliaia di punti dati sul coinvolgimento seguono la distribuzione statistica prevista dal comportamento umano autentico. Gli strumenti di rilevamento in grado di analizzare più segnali contemporaneamente, fare riferimenti incrociati a fonti web e anomalie statistiche superficiali forniscono un livello di verifica che il giudizio umano semplicemente non può replicare su larga scala. Man mano che la tecnologia per creare personaggi falsi migliora, migliora anche la tecnologia per rilevarli, ma solo se sai guardare.