Sociale bots versus door AI gegenereerde inhoud: wat is het verschil?
Markering · SUS IT-redactieteam
Markeer rapporten over fraude op sociale media, bot-ecosystemen en online oplichting.
Bots, nepvolgers en door AI geschreven berichten zijn verwante, maar verschillende problemen. Als u het verschil begrijpt, kunt u de juiste detectietool kiezen en de resultaten correct interpreteren.
Mensen gebruiken ‘bot’ en ‘AI-gegenereerde inhoud’ vaak door elkaar, alsof dit hetzelfde probleem is. Ze houden verband met elkaar – beide hebben betrekking op technologie die wordt gebruikt om te misleiden – maar het zijn fundamenteel verschillende verschijnselen die verschillende detectiebenaderingen vereisen. Het samenvoegen ervan leidt tot de verkeerde gereedschapskeuze en verkeerd gelezen resultaten.
Wat een sociale bot eigenlijk is
Een sociale bot is een geautomatiseerd account dat acties uitvoert op een sociaal platform – posten, leuk vinden, volgen, reageren – zonder betekenisvolle menselijke tussenkomst. Het sleutelwoord is geautomatiseerd gedrag, en niet noodzakelijkerwijs door AI gegenereerde inhoud. Een eenvoudige bot kan RSS-feeds volgens een schema opnieuw posten. Een meer geavanceerd systeem zou accounts in bulk kunnen volgen en ontvolgen om het aantal gamevolgers te vergroten, of hashtags kunnen overspoelen met gecoördineerde berichten. Het bepalende kenmerk is het gedragspatroon van het account, niet hoe de inhoud eruit ziet.
Wat door AI gegenereerde inhoud eigenlijk is
Door AI gegenereerde inhoud verwijst naar media – tekst, afbeeldingen, audio, video – die is geproduceerd door een generatief AI-model in plaats van door een mens. Een echt persoon met een authentiek account kan door AI gegenereerde afbeeldingen plaatsen. Een nieuwsbron kan door AI geschreven samenvattingen publiceren. Een muzikant kan een Suno-track onder zijn of haar naam uitbrengen. In al deze gevallen is er geen ‘bot’ bij betrokken; een mens maakt weloverwogen keuzes over wat hij wil publiceren. De inhoud is synthetisch, maar het accountgedrag is menselijk.
Waarom de overlap verwarring schept
De verwarring ontstaat omdat geavanceerde botnetwerken vaak door AI gegenereerde inhoud gebruiken. Gecoördineerde beïnvloedingsoperaties creëren neppersona's, genereren profielfoto's met Midjourney, schrijven berichten met ChatGPT en beheren de accounts op schaal met automatisering. In deze gevallen bestaan beide problemen tegelijkertijd: het account is een bot en de inhoud is door AI gegenereerd. Maar de signalen die je gebruikt om ze te detecteren zijn verschillend, en je hebt beide lenzen nodig om het volledige beeld te krijgen.
Botgedrag detecteren
Botdetectie richt zich op signalen op accountniveau: de verhouding tussen volgers en volgers, de frequentie van het posten (posten met een onmenselijke regelmaat, zoals precies elke vier uur), de leeftijd van het account in verhouding tot het activiteitenniveau, netwerkanalyse (heeft het account voornamelijk interactie met andere vermoedelijke bots?) en de aan- of afwezigheid van een echte webvoetafdruk. Dit zijn gedrags- en contextuele signalen. Ze vertellen je niets over de vraag of een specifieke afbeelding of tekst door AI is gegenereerd. De BOT or NOT-analyse van SUS IT maakt gebruik van deze gedragssignalen plus realtime webintelligentie om de authenticiteit van accounts te beoordelen.
Door AI gegenereerde media detecteren
Mediadetectie richt zich op de inhoud zelf, niet op het account. Er wordt gevraagd: vertoont dit audiobestand spectrale patronen die consistent zijn met AI-generatie? Heeft deze afbeelding het ruisprofiel van een GAN-uitvoer? Heeft deze tekst de lage perplexiteit en lage burstiness die bij grote taalmodellen horen? Deze forensische signalen zijn volledig onafhankelijk van wie de inhoud heeft gepost of hoe het account zich gedraagt. Een perfect authentiek menselijk account kan door AI gegenereerde inhoud plaatsen, en een botaccount kan door mensen gemaakte inhoud plaatsen.
Wanneer elke aanpak gebruiken?
Als u een verdacht sociale-media-account onderzoekt – iemand die beweert een publiek figuur te zijn, een account met een verdacht snelle groei van volgers, een profiel dat is gekoppeld aan een gecoördineerde campagne – begin dan met een analyse op profielniveau. Kijk naar gedragspatronen voordat u individuele stukjes inhoud analyseert. Als je een specifiek stukje media tegenkomt (een nummer dat iemand beweert te hebben gezongen, een afbeelding die in een nieuwsbericht wordt gebruikt, een video die is geplaatst door een maker met wie je werkt), gebruik dan mediagerichte detectie, ongeacht de schijnbare authenticiteit van het account. De twee benaderingen zijn complementair en niet uitwisselbaar.
De ethiek van sociale verificatie
Het gebruik van detectietools voor publieke figuren en accounts heeft een ethisch gewicht. Journalistiek van openbaar belang, academisch onderzoek en platformmoderatie zijn legitieme redenen om deze tools op grote schaal te gebruiken. Persoonlijke nieuwsgierigheid, intimidatie of het vissen naar redenen om iemand in diskrediet te brengen die je al niet leuk vindt, zijn dat niet. Detectie geeft u probabilistische informatie, geen bewijs. Het moet vragen oproepen voor verder onderzoek, en niet als conclusie dienen. Wanneer u bewijs van onauthenticiteit vindt, is het melden ervan op het platform en het documenteren van uw bewijsmateriaal bijna altijd productiever dan publieke beschuldigingen.