Romantische oplichting maakt nu gebruik van AI - dit is wat dat betekent
Markering · SUS IT-redactieteam
Markeer rapporten over fraude op sociale media, bot-ecosystemen en online oplichting.
Hoe door AI gegenereerde foto's, geautomatiseerde chatbots en taalmodellen romantiekfraude een boost hebben gegeven - en de detectiesignalen die nog steeds werken.
Volgens gegevens van de FTC kost romantische oplichting de slachtoffers alleen al in de Verenigde Staten in 2023 ruim 1,3 miljard dollar – en dat aantal stijgt elk jaar. De introductie van generatieve AI in de fraudetoolkit heeft deze oplichting tegelijkertijd goedkoper in gebruik, gemakkelijker op te schalen en moeilijker te detecteren gemaakt. Begrijpen wat er is veranderd en wat niet, is de eerste stap om uzelf te beschermen.
Wat romantische oplichters vroeger deden
De oorspronkelijke formule voor romantiekzwendel was arbeidsintensief. Een oplichter zou foto's stelen van de sociale media van een echte persoon en handmatig berichten sturen naar datingapps of sociale platforms. Gesprekken moesten door een mens worden gevoerd, waardoor het aantal slachtoffers beperkt kon worden. Op grote schaal was het nog steeds verwoestend, maar er zat een plafond aan.
Hoe AI de economie veranderde
Generatieve AI heeft de meeste arbeidsknelpunten weggenomen. Profielfoto's worden nu gesynthetiseerd met behulp van modellen als Midjourney of speciaal gebouwde gezichtsgenerators, waardoor unieke gezichten ontstaan die niet bij een echte persoon horen en daarom niet kunnen worden getraceerd via omgekeerd zoeken naar afbeeldingen. Het gespreksbeheer wordt steeds vaker verzorgd door grote taalmodellen die zijn afgestemd op romantiekzwendelscripts, die in staat zijn een emotioneel boeiende dialoog te voeren over honderden gelijktijdige doelwitten. Menselijke operators houden nu alleen toezicht op en escaleren alleen de meest veelbelovende doelen, terwijl AI de rest afhandelt.
De synthetische personastapel
Bij een geavanceerde, door AI ondersteunde romantiekzwendel worden meerdere componenten gebruikt die samenwerken. Het gezicht wordt voor elke bewerking vers gegenereerd. Het achtergrondverhaal van de persona is gebaseerd op een taalmodel: een ingenieur die weduwe is op een olieplatform, een militaire chirurg die in het buitenland wordt ingezet, een succesvolle ondernemer die op zakenreis is. Een dunne sociale bewijslaag – een schaars LinkedIn-profiel, een paar Instagram-posts – is gevuld met door AI gegenereerde inhoud. Gesprekken worden gevoerd via gescripte sjablonen en AI-generatie, waarbij het model zich aanpast op basis van de reacties van het doelwit om de emotionele betrokkenheid te behouden.
Het geld vraagt: hoe het evolueert
Romantische oplichters volgen een consistent financieel draaiboek. De relatie komt tot stand gedurende weken of maanden voordat er een financieel verzoek verschijnt. Door deze investeringsperiode voelt het uiteindelijke verzoek eerder als een anomalie – ‘Ik heb nog nooit iemand om hulp gevraagd’ – dan als een doel. Veelvoorkomende scenario's zijn onder meer medische noodgevallen, invoerbelastingen op verzonden pakketten, zakelijke overbruggingsleningen of reiskosten die geblokkeerd worden door een plotseling probleem. De bedragen beginnen vaak klein om een nalevingspatroon vast te stellen voordat ze escaleren.
Detectiesignalen die AI niet heeft opgelost
Ondanks de verbeteringen van AI blijven verschillende detectievectoren betrouwbaar. Weerstand tegen videogesprekken is het meest consistent: AI kan nog niet op overtuigende wijze een realtime interactief videogesprek voeren. Deepfake-video bestaat, maar op natuurlijke wijze reageren op onverwachte live-verzoeken ("houd de krant van vandaag omhoog", "zwaai naar mij") valt buiten de inzet van zwendeltechnologie. Biografische inconsistentie is een andere zwakte: taalmodellen houden geen persistent geheugen in stand, dus details die in een vroeg stadium worden geclaimd (specifieke scholen, buurten) kunnen later verschuiven. Afwezigheid op meerdere platforms is een sterk signaal: echte mensen hebben bijna altijd een bevestigende aanwezigheid op het internet. AI-persona's doen dat zelden.
Hoe u een verdacht profiel kunt controleren
Als u communiceert met iemand die zelfs maar kleine zorgen uit, behandel de verificatie dan als normaal. Vraag een videogesprek aan. Zoek hun geclaimde naam en werkgever samen op Google, LinkedIn en Facebook. Voer hun profiel uit via BOT of NIET op susit.ai als u een deellink heeft: de tool zoekt naar bewijs van een echte persoon en signaleert patronen die consistent zijn met synthetische of frauduleuze accounts. Als ze foto's hebben verzonden, worden met omgekeerd zoeken naar afbeeldingen nog steeds gestolen foto's opgespoord (in tegenstelling tot door AI gegenereerde foto's), en het kost u niets.
De wapenwedloop
Naarmate AI oplichtingsprofielen overtuigender maakt, verbetert de op AI gebaseerde detectie tegelijkertijd. Detectietools die de internetaanwezigheid, gedragsconsistentie en bekende fraudepatronen analyseren, kunnen signalen naar boven halen die het menselijk instinct over het hoofd ziet – vooral nadat weken van emotionele investeringen een objectieve beoordeling moeilijker hebben gemaakt. De fundamentele dynamiek van de zwendel – het opbouwen van vertrouwen voordat een financieel verzoek wordt gedaan – is al tientallen jaren constant gebleven. Het begrijpen van het draaiboek is de beste verdediging, ongeacht welke tools worden gebruikt om het uit te voeren.