로맨스 사기가 이제 AI를 사용하고 있습니다. 이것이 의미하는 바는 다음과 같습니다.

FTC 데이터에 따르면 로맨스 사기로 인해 피해자가 입은 피해는 2023년 미국에서만 13억 달러가 넘으며, 그 숫자는 매년 증가하고 있습니다. 사기 툴킷에 생성적 AI가 도입되면서 이러한 사기는 운영 비용이 저렴해지고, 확장이 쉬워지고, 감지하기가 어려워졌습니다. 변경된 사항과 변경되지 않은 사항을 이해하는 것이 자신을 보호하기 위한 첫 번째 단계입니다.

로맨스 사기꾼들이 했던 일

원래의 로맨스 스캠 공식은 노동집약적이었습니다. 사기꾼은 실제 사람의 소셜 미디어에서 사진을 훔치고 데이트 앱이나 소셜 플랫폼에서 대상에게 수동으로 메시지를 보냅니다. 대화는 인간이 진행해야 했고, 이로 인해 동시에 작업할 수 있는 희생자 수는 제한되었습니다. 규모 면에서는 여전히 파괴적이었지만 천장이 있었습니다.

AI가 경제를 어떻게 변화시켰는가

생성적 AI는 대부분의 노동 병목 현상을 제거했습니다. 이제 프로필 사진은 Midjourney 또는 특수 제작된 얼굴 생성기와 같은 모델을 사용하여 합성되어 실제 사람의 것이 아닌 고유한 얼굴을 생성하므로 역방향 이미지 검색을 통해 추적할 수 없습니다. 수백 명의 동시 대상에 걸쳐 감정적으로 매력적인 대화를 유지할 수 있는 로맨스 사기 스크립트에 맞게 미세 조정된 대규모 언어 모델을 통해 대화 관리가 점점 더 많이 처리되고 있습니다. 이제 인간 운영자는 가장 유망한 대상만 감독하고 에스컬레이션하고 나머지는 AI가 처리합니다.

합성 페르소나 스택

정교한 AI 지원 로맨스 사기는 여러 구성 요소가 함께 작동하는 것을 사용합니다. 각 작업마다 얼굴이 새로 생성됩니다. 페르소나의 배경 이야기는 언어 모델에 의해 만들어졌습니다. 석유 플랫폼의 미망인 엔지니어, 해외에 파견된 군의관, 사업을 위해 여행하는 성공적인 기업가. 얇은 소셜 증거 레이어(희소한 LinkedIn 프로필, 몇 개의 Instagram 게시물)는 AI 생성 콘텐츠로 채워집니다. 대화는 스크립트로 작성된 템플릿과 AI 생성을 통해 수행되며 모델은 대상의 반응을 기반으로 적응하여 정서적 참여를 유지합니다.

Money Ask: 어떻게 진화하는가

로맨스 사기꾼은 일관된 금융 플레이북을 따릅니다. 관계는 재정적 요청이 나타나기 몇 주 또는 몇 달에 걸쳐 확립됩니다. 이 투자 기간은 최종 요청이 목표라기보다는 "이전에는 누구에게도 도움을 요청한 적이 없습니다"라는 변칙적인 것처럼 느껴지게 만듭니다. 일반적인 시나리오에는 의료 응급 상황, 배송된 패키지에 대한 수입세, 비즈니스 브리지 대출 또는 갑작스러운 문제로 인해 차단된 여행 비용이 포함됩니다. 금액은 확대되기 전에 규정 준수 패턴을 설정하기 위해 작은 규모로 시작되는 경우가 많습니다.

AI가 수정하지 않은 감지 신호

AI의 개선에도 불구하고 여러 탐지 벡터는 여전히 안정적입니다. 영상 통화 거부이 가장 일관적입니다. AI는 아직 실시간 대화형 영상 대화를 설득력 있게 수행할 수 없습니다. Deepfake 비디오가 존재하지만 예상치 못한 실시간 요청("오늘의 신문을 잡아주세요", "나에게 손을 흔들어주세요")에 자연스럽게 응답하는 것은 배포된 사기 기술 이상의 수준입니다. 전기(이력) 정보의 불일치은 또 다른 약점입니다. 언어 모델은 지속적인 기억을 유지하지 않으므로 초기에 주장된 세부 사항(특정 학교, 동네)이 나중에 변경될 수 있습니다. 플랫폼 간 흔적 부재는 강력한 신호입니다. 실제 사람들은 거의 항상 확증적인 웹 존재를 가지고 있습니다. AI 페르소나는 거의 그렇지 않습니다.

의심스러운 프로필을 확인하는 방법

사소한 우려 사항이라도 제기하는 사람과 대화하는 경우 확인을 정상적으로 처리하세요. 영상 통화를 요청하세요. Google, LinkedIn, Facebook에서 청구된 이름과 고용주를 함께 검색하세요. 공유 링크가 있는 경우 susit.ai에서 BOT or NOT을 통해 프로필을 실행하세요. 이 도구는 실제 인물의 증거를 검색하고 합성 또는 사기 계정과 일치하는 패턴을 표시합니다. 사진을 보낸 경우 역이미지 검색을 통해 AI가 생성한 사진과 달리 도난당한 사진을 찾아낼 수 있으며 비용이 전혀 들지 않습니다.

군비 경쟁

AI가 사기 프로필을 더욱 설득력있게 만들면서 AI 기반 탐지도 동시에 개선되고 있습니다. 크로스 플랫폼 웹 존재, 행동 일관성 및 알려진 사기 패턴을 분석하는 탐지 도구는 인간의 본능이 놓친 신호를 표면화할 수 있습니다. 특히 몇 주 동안 감정적으로 투자한 후에는 객관적인 평가가 더 어려워졌습니다. 금전적 요청을 하기 전에 신뢰를 구축하는 사기의 근본적인 역학은 수십 년 동안 변함없이 유지되어 왔습니다. 플레이북을 이해하는 것은 플레이북을 실행하는 데 사용되는 도구에 관계없이 최선의 방어입니다.