Романтические мошенники теперь используют AI — что это значит
SUS IT
Как AI-сгенерированные фото, автоматизированные чат-боты и языковые модели усилили романтическое мошенничество — и какие сигналы обнаружения всё ещё работают.
По данным FTC, романтические мошенники нанесли жертвам ущерб более чем на 1,3 миллиарда долларов только в США в 2023 году — и эта цифра растёт из года в год. Появление генеративного AI в арсенале мошенников сделало такие схемы одновременно дешевле в эксплуатации, легче в масштабировании и труднее в обнаружении. Понимание того, что изменилось, а что нет, — первый шаг к защите себя.
Что раньше делали романтические мошенники
Изначальная формула романтического мошенничества была трудоёмкой. Мошенник крал фото из соцсетей реального человека и вручную переписывался с жертвами в приложениях знакомств или соцсетях. Диалог должен был вести человек, что ограничивало число жертв, с которыми можно было работать одновременно. В масштабе это всё равно наносило разрушительный ущерб — но имело потолок.
Как AI изменил экономику мошенничества
Генеративный AI устранил большинство трудовых узких мест. Фото профиля теперь синтезируются с помощью моделей вроде Midjourney или специализированных генераторов лиц — создавая уникальные лица, не принадлежащие никому из реальных людей и потому не отслеживаемые через обратный поиск изображений. Управление диалогом всё чаще берут на себя большие языковые модели, дообученные на сценариях романтического мошенничества, способные вести эмоционально вовлекающий диалог одновременно с сотнями жертв. Операторы-люди теперь лишь курируют и продвигают наиболее перспективные цели, а AI обрабатывает остальное.
Стек синтетической персоны
Изощрённое романтическое мошенничество с использованием AI задействует несколько компонентов, работающих совместно. Лицо генерируется заново для каждой операции. Легенду персоны создаёт языковая модель: овдовевший инженер на нефтяной платформе, военный хирург в загранкомандировке, успешный предприниматель в деловой поездке. Тонкий слой социального доказательства — скудный профиль в LinkedIn, несколько постов в Instagram — заполняется AI-сгенерированным контентом. Диалог ведётся по сценарным шаблонам и AI-генерации, причём модель адаптируется в зависимости от ответов жертвы, чтобы поддерживать эмоциональную вовлечённость.
Денежная просьба: как она развивается
Романтические мошенники следуют устойчивому финансовому сценарию. Отношения выстраиваются на протяжении недель или месяцев, прежде чем появляется какая-либо финансовая просьба. Этот инвестиционный период делает итоговую просьбу похожей на исключение — «я никогда раньше ни у кого не просил помощи» — а не на изначальную цель. Типичные сценарии включают медицинские экстренные ситуации, импортные пошлины на отправленные посылки, промежуточные бизнес-кредиты или расходы на поездку, заблокированные внезапной проблемой. Суммы часто начинаются с малого, чтобы установить паттерн согласия, прежде чем эскалировать.
Сигналы обнаружения, которые AI пока не устранил
Несмотря на улучшения AI, несколько векторов обнаружения остаются надёжными. Уклонение от видеозвонков — самый устойчивый признак: AI пока не способен убедительно вести живой интерактивный видеодиалог. Дипфейк-видео существует, но естественная реакция на неожиданные просьбы в реальном времени («подержи сегодняшнюю газету», «помаши мне рукой») по-прежнему недоступна применяемым мошенническим технологиям. Биографическая несогласованность — ещё одна слабость: языковые модели не сохраняют устойчивую память, поэтому заявленные ранее детали (конкретные школы, районы) могут меняться позже. Отсутствие на других платформах — сильный сигнал: у реальных людей почти всегда есть какое-то подтверждающее присутствие в вебе. У AI-персон его почти никогда нет.
Как проверить подозрительный профиль
Если собеседник вызывает даже незначительные сомнения, относитесь к проверке как к норме. Попросите видеозвонок. Поищите вместе заявленное имя и работодателя в Google, LinkedIn и Facebook. Проверьте профиль через BOT or NOT на susit.ai, если есть ссылка — инструмент ищет подтверждения существования реального человека и отмечает паттерны, характерные для синтетических или мошеннических аккаунтов. Если вам присылали фото, обратный поиск изображений всё ещё позволяет поймать украденные фото (в отличие от AI-сгенерированных) — и это ничего не стоит.
Гонка вооружений
По мере того как AI делает мошеннические профили убедительнее, AI-детекция параллельно совершенствуется. Инструменты обнаружения, анализирующие присутствие на разных платформах, поведенческую согласованность и известные паттерны мошенничества, способны выявлять сигналы, которые упускает человеческая интуиция, — особенно после недель эмоциональных вложений, затрудняющих объективную оценку. Фундаментальная механика мошенничества — выстраивание доверия перед финансовой просьбой — не менялась десятилетиями. Понимание этого сценария — лучшая защита, независимо от того, какими инструментами его реализуют.