Les escroqueries amoureuses utilisent désormais l’IA – voici ce que cela signifie
Marque · Équipe éditoriale de SUS IT
Marquez les rapports sur la fraude sur les réseaux sociaux, les écosystèmes de robots et les escroqueries en ligne.
Comment les photos générées par l’IA, les chatbots automatisés et les modèles linguistiques ont dynamisé la fraude amoureuse – et les signaux de détection qui fonctionnent toujours.
Les escroqueries amoureuses ont coûté aux victimes plus de 1,3 milliard de dollars rien qu’aux États-Unis en 2023, selon les données de la FTC – et ce chiffre augmente chaque année. L’introduction de l’IA générative dans la boîte à outils anti-fraude a rendu ces escroqueries à la fois moins coûteuses à exploiter, plus faciles à mettre à l’échelle et plus difficiles à détecter. Comprendre ce qui a changé et ce qui n'a pas changé est la première étape vers votre protection.
Ce que faisaient les escrocs romantiques
La formule originale de l’escroquerie amoureuse demandait beaucoup de travail. Un escroc volerait des photos sur les réseaux sociaux d’une personne réelle et enverrait manuellement des messages aux cibles sur des applications de rencontres ou des plateformes sociales. Les conversations devaient être menées par un humain, ce qui limitait le nombre de victimes pouvant être travaillées simultanément. À grande échelle, c’était toujours dévastateur – mais il y avait un plafond.
Comment l’IA a changé l’économie
L’IA générative a supprimé la plupart des goulots d’étranglement en matière de main-d’œuvre. Les photos de profil sont désormais synthétisées à l'aide de modèles tels que Midjourney ou de générateurs de visages spécialement conçus, produisant des visages uniques qui n'appartiennent à aucune personne réelle et ne peuvent donc pas être retracés via la recherche d'images inversée. La gestion des conversations est de plus en plus gérée par de grands modèles linguistiques affinés sur des scripts d'escroquerie amoureuse, capables de maintenir un dialogue émotionnellement engageant entre des centaines de cibles simultanées. Les opérateurs humains supervisent et font désormais remonter uniquement les cibles les plus prometteuses, l’IA s’occupant du reste.
La pile de personnalités synthétiques
Une arnaque romantique sophistiquée assistée par l’IA utilise plusieurs composants travaillant ensemble. Le visage est généré à nouveau pour chaque opération. L'histoire du personnage est façonnée par un modèle linguistique : un ingénieur veuf sur une plate-forme pétrolière, un chirurgien militaire déployé à l'étranger, un entrepreneur prospère voyageant pour affaires. Une fine couche de preuve sociale – un profil LinkedIn clairsemé, quelques publications Instagram – est remplie de contenu généré par l’IA. La conversation est menée via des modèles scriptés et la génération d'IA, le modèle s'adaptant en fonction des réponses de la cible pour maintenir l'engagement émotionnel.
The Money Ask : comment cela évolue
Les escrocs romantiques suivent un manuel financier cohérent. La relation s’établit sur des semaines ou des mois avant qu’apparaisse toute demande financière. Cette période d'investissement donne l'impression que la demande éventuelle est une anomalie – « Je n'ai jamais demandé d'aide à personne auparavant » – plutôt qu'un objectif. Les scénarios courants incluent les urgences médicales, les taxes à l’importation sur les colis expédiés, les prêts relais commerciaux ou les frais de voyage bloqués par un problème soudain. Les montants commencent souvent par de petits montants afin d’établir un modèle de conformité avant d’augmenter.
Signaux de détection que l'IA n'a pas corrigés
Malgré les améliorations apportées par l’IA, plusieurs vecteurs de détection restent fiables. Résistance aux appels vidéo est la plus cohérente : l’IA ne peut pas encore mener de manière convaincante une conversation vidéo interactive en temps réel. Les vidéos Deepfake existent, mais répondre naturellement aux demandes inattendues en direct (« brandissez le journal d'aujourd'hui », « faites-moi signe ») reste au-delà de la technologie frauduleuse déployée. Incohérence biographique est une autre faiblesse : les modèles linguistiques ne maintiennent pas de mémoire persistante, de sorte que les détails revendiqués tôt (écoles spécifiques, quartiers) peuvent changer plus tard. Absence multiplateforme est un signal fort : les personnes réelles ont presque toujours une présence sur le Web corroborante. Les personnages de l’IA le font rarement.
Comment vérifier un profil suspect
Si vous communiquez avec quelqu'un qui soulève des préoccupations, même mineures, traitez la vérification comme d'habitude. Demandez un appel vidéo. Recherchez ensemble leur nom revendiqué et leur employeur sur Google, LinkedIn et Facebook. Exécutez leur profil via BOT or NOT sur susit.ai si vous disposez d’un lien de partage – l’outil recherche les preuves d’une personne réelle et signale les modèles cohérents avec des comptes synthétiques ou frauduleux. S'ils ont envoyé des photos, une recherche d'image inversée récupère toujours les photos volées (contrairement à celles générées par l'IA) et cela ne vous coûte rien.
La course aux armements
À mesure que l’IA rend les profils frauduleux plus convaincants, la détection basée sur l’IA s’améliore en parallèle. Les outils de détection qui analysent la présence Web multiplateforme, la cohérence des comportements et les modèles de fraude connus peuvent faire apparaître des signaux que l'instinct humain oublie, en particulier après des semaines d'investissement émotionnel qui ont rendu l'évaluation objective plus difficile. La dynamique fondamentale de l’arnaque – instaurer la confiance avant de faire une demande financière – est restée constante depuis des décennies. Comprendre le playbook est la meilleure défense, quels que soient les outils utilisés pour l'exécuter.