Bot sociali e contenuti generati dall'intelligenza artificiale: qual è la differenza?
Mark · Redazione di SUS IT
Mark si occupa di frodi sui social media, ecosistemi di bot e truffe online.
Bot, follower falsi e post scritti dall'intelligenza artificiale sono problemi correlati ma distinti. Comprendere la differenza ti aiuta a scegliere lo strumento di rilevamento giusto e a interpretare correttamente i risultati.
Le persone spesso usano "bot" e "contenuti generati dall'intelligenza artificiale" in modo intercambiabile, come se fossero lo stesso problema. Sono correlati – entrambi implicano l’uso della tecnologia per ingannare – ma sono fenomeni fondamentalmente diversi che richiedono approcci di rilevamento diversi. La loro combinazione porta alla scelta sbagliata dello strumento e a una lettura errata dei risultati.
Cos'è realmente un social bot
Un social bot è un account automatizzato che esegue azioni su una piattaforma social (pubblicare, mettere mi piace, seguire, commentare) senza un significativo coinvolgimento umano. La parola chiave è comportamento automatizzato, non necessariamente contenuto generato dall’intelligenza artificiale. Un semplice bot potrebbe semplicemente ripubblicare i feed RSS in base a una pianificazione. Uno più sofisticato potrebbe seguire e smettere di seguire gli account in blocco per contare i follower del gioco o inondare gli hashtag con messaggi coordinati. La caratteristica distintiva è il modello comportamentale dell'account, non l'aspetto del contenuto.
Cosa sono realmente i contenuti generati dall'intelligenza artificiale
I contenuti generati dall’intelligenza artificiale si riferiscono a media – testo, immagini, audio, video – che sono stati prodotti da un modello di intelligenza artificiale generativa piuttosto che da un essere umano. Una persona reale con un account autentico può pubblicare immagini generate dall'intelligenza artificiale. Un organo di stampa può pubblicare riassunti scritti dall’intelligenza artificiale. Un musicista può pubblicare una traccia Suno sotto il suo nome. In tutti questi casi, non è coinvolto alcun “bot”: è un essere umano che fa scelte deliberate su cosa pubblicare. Il contenuto è sintetico, ma il comportamento dell'account è umano.
Perché la sovrapposizione crea confusione
La confusione nasce perché le reti bot sofisticate spesso utilizzano contenuti generati dall’intelligenza artificiale. Le operazioni di influenza coordinate creano personaggi falsi, generano immagini del profilo con Midjourney, scrivono post con ChatGPT e gestiscono gli account su larga scala con l'automazione. In questi casi, entrambi i problemi esistono contemporaneamente: l’account è un bot e il contenuto è generato dall’intelligenza artificiale. Ma i segnali che usi per rilevarli sono diversi e sono necessari entrambi gli obiettivi per catturare l'immagine completa.
Rilevamento del comportamento dei bot
Il rilevamento dei bot si concentra sui segnali a livello di account: rapporto follower-to-following, cadenza di pubblicazione (pubblicazione con regolarità disumana, esattamente ogni 4 ore), età dell'account relativa al livello di attività, analisi di rete (l'account interagisce principalmente con altri bot sospetti?) e presenza o assenza di un'impronta web reale. Questi sono segnali comportamentali e contestuali. Non ti dicono nulla sul fatto che un'immagine o un testo specifico siano stati generati dall'intelligenza artificiale. L'analisi BOT or NOT di SUS IT utilizza questi segnali comportamentali oltre alla web intelligence in tempo reale per valutare l'autenticità dell'account.
Rilevamento di contenuti multimediali generati dall'intelligenza artificiale
Il rilevamento dei contenuti multimediali si concentra sul contenuto stesso, non sull'account. Si chiede: questo file audio mostra modelli spettrali coerenti con la generazione dell'intelligenza artificiale? Questa immagine ha il profilo di rumore di un'uscita GAN? Questo testo presenta la bassa perplessità e la bassa intensità associate ai modelli linguistici di grandi dimensioni? Questi segnali forensi sono del tutto indipendenti da chi ha pubblicato il contenuto o dal comportamento dell'account. Un account umano perfettamente autentico può pubblicare contenuti generati dall'intelligenza artificiale e un account bot può pubblicare contenuti creati dall'uomo.
Quando utilizzare ciascun approccio
Se stai indagando su un account di social media sospetto (qualcuno che afferma di essere un personaggio pubblico, un account con una crescita di follower sospettosamente rapida, un profilo legato a una campagna coordinata) inizia con l'analisi a livello di profilo. Osserva i modelli comportamentali prima di analizzare i singoli contenuti. Se incontri un elemento multimediale specifico (una canzone che qualcuno afferma di aver eseguito, un'immagine utilizzata in una notizia, un video pubblicato da un creatore con cui lavori), utilizza il rilevamento incentrato sui media indipendentemente dall'apparente autenticità dell'account. I due approcci sono complementari, non intercambiabili.
L'etica della verifica sociale
Usare strumenti di rilevamento su personaggi e conti pubblici ha un valore etico. Il giornalismo di interesse pubblico, la ricerca accademica e la moderazione della piattaforma sono ragioni legittime per utilizzare questi strumenti su larga scala. La curiosità personale, le molestie o la ricerca di motivi per screditare qualcuno che già non ti piace non lo sono. Il rilevamento fornisce informazioni probabilistiche, non prove. Dovrebbe sollevare domande per ulteriori indagini, non servire come conclusione. Quando trovi prove di inautenticità, segnalarle alla piattaforma e documentare le tue prove è quasi sempre più produttivo dell'accusa pubblica.