Le truffe romantiche ora utilizzano l'intelligenza artificiale: ecco cosa significa
Mark · Redazione di SUS IT
Mark si occupa di frodi sui social media, ecosistemi di bot e truffe online.
In che modo le foto generate dall'intelligenza artificiale, i chatbot automatizzati e i modelli linguistici hanno potenziato le frodi romantiche e i segnali di rilevamento che funzionano ancora.
Secondo i dati della FTC, le truffe romantiche sono costate alle vittime più di 1,3 miliardi di dollari solo negli Stati Uniti nel 2023, e tale cifra aumenta ogni anno. L’introduzione dell’intelligenza artificiale generativa nel toolkit antifrode ha reso queste truffe allo stesso tempo più economiche da gestire, più facili da scalare e più difficili da individuare. Capire cosa è cambiato e cosa no è il primo passo per proteggersi.
Cosa facevano i truffatori romantici
La formula originale della truffa romantica era ad alta intensità di manodopera. Un truffatore ruberebbe le foto dai social media di una persona reale e invierebbe manualmente messaggi agli obiettivi su app di appuntamenti o piattaforme social. Le conversazioni dovevano essere condotte da un essere umano, il che limitava il numero di vittime che potevano essere lavorate contemporaneamente. Su larga scala, era ancora devastante, ma aveva un limite.
Come l'intelligenza artificiale ha cambiato l'economia
L’intelligenza artificiale generativa ha rimosso la maggior parte dei colli di bottiglia del lavoro. Le foto del profilo vengono ora sintetizzate utilizzando modelli come Midjourney o generatori di volti appositamente creati, producendo volti unici che non appartengono a nessuna persona reale e quindi non possono essere rintracciati tramite la ricerca inversa delle immagini. La gestione delle conversazioni è sempre più affidata a modelli linguistici di grandi dimensioni ottimizzati su script di truffe romantiche, in grado di mantenere un dialogo emotivamente coinvolgente tra centinaia di obiettivi simultanei. Gli operatori umani ora supervisionano e intensificano solo gli obiettivi più promettenti, mentre l’intelligenza artificiale si occupa del resto.
Lo Stack di Persona Sintetica
Una sofisticata truffa romantica assistita dall'intelligenza artificiale utilizza più componenti che lavorano insieme. Il volto viene generato fresco per ogni operazione. Il retroscena del personaggio è creato da un modello linguistico: un ingegnere vedovo su una piattaforma petrolifera, un chirurgo militare schierato all'estero, un imprenditore di successo in viaggio per affari. Un sottile livello di prova sociale – uno sparso profilo LinkedIn, alcuni post su Instagram – è popolato con contenuti generati dall’intelligenza artificiale. La conversazione viene condotta tramite modelli con script e generazione di intelligenza artificiale, con il modello che si adatta in base alle risposte del target per mantenere il coinvolgimento emotivo.
I soldi chiedono: come si evolve
I truffatori romantici seguono un programma finanziario coerente. Il rapporto viene stabilito nel corso di settimane o mesi prima che appaia qualsiasi richiesta finanziaria. Questo periodo di investimento fa sì che l'eventuale richiesta sembri un'anomalia - "Non ho mai chiesto aiuto a nessuno prima" - piuttosto che l'obiettivo. Gli scenari più comuni includono emergenze mediche, tasse di importazione sui pacchi spediti, prestiti ponte aziendali o spese di viaggio bloccate da un problema improvviso. Gli importi spesso iniziano in piccolo per stabilire un modello di conformità prima di aumentare.
Segnali di rilevamento che l'intelligenza artificiale non ha risolto
Nonostante i miglioramenti dell’intelligenza artificiale, diversi vettori di rilevamento rimangono affidabili.Resistenza alle videochiamate è il più coerente: l’intelligenza artificiale non è ancora in grado di condurre in modo convincente una conversazione video interattiva in tempo reale. Esistono video deepfake, ma rispondere in modo naturale a richieste inaspettate dal vivo ("alza il giornale di oggi", "salutami") resta al di là della tecnologia truffa impiegata. Incoerenza biografica è un altro punto debole: i modelli linguistici non mantengono la memoria persistente, quindi i dettagli dichiarati all'inizio (scuole specifiche, quartieri) potrebbero cambiare in seguito. Assenza multipiattaforma è un segnale forte: le persone reali hanno quasi sempre una presenza web corroborante. I personaggi AI raramente lo fanno.
Come controllare un profilo sospetto
Se stai comunicando con qualcuno che solleva preoccupazioni anche minori, tratta la verifica normalmente. Richiedi una videochiamata. Cerca insieme il nome richiesto e il datore di lavoro su Google, LinkedIn e Facebook. Esegui il loro profilo BOT or NOT su susit.ai se hai un link di condivisione: lo strumento cerca prove di una persona reale e segnala modelli coerenti con account sintetici o fraudolenti. Se hanno inviato foto, una ricerca inversa di immagini cattura comunque le foto rubate (al contrario di quelle generate dall'intelligenza artificiale) e non ti costa nulla.
La corsa agli armamenti
Poiché l’intelligenza artificiale rende i profili truffa più convincenti, il rilevamento basato sull’intelligenza artificiale sta migliorando parallelamente. Gli strumenti di rilevamento che analizzano la presenza sul web multipiattaforma, la coerenza comportamentale e i modelli di frode noti possono far emergere segnali che l’istinto umano non coglie, soprattutto dopo che settimane di investimento emotivo hanno reso più difficile la valutazione oggettiva. La dinamica fondamentale della truffa – costruire la fiducia prima di avanzare una richiesta finanziaria – è rimasta costante per decenni. Comprendere il playbook è la migliore difesa indipendentemente dagli strumenti utilizzati per eseguirlo.