Как AI-изображения используются в дезинформационных кампаниях

Вирусная фотография политика на акции протеста, на которой он никогда не был. Изображение с водяным знаком информагентства, изображающее катастрофическое событие, которого никогда не происходило. «Очевидное» фото знаменитости, совершающей преступление, которым поделились десятки тысяч раз, прежде чем его распознали как синтетическое. Изображения, сгенерированные AI, стали стандартным инструментом дезинформационных операций, используемым государственными структурами, политическими группами и отдельными злоумышленниками для создания «доказательств» полностью ложных утверждений. Понимание того, как работают такие операции — и как распознавать сфабрикованные изображения, — всё в большей степени становится базовым навыком медиаграмотности.

Как строятся дезинформационные кампании с изображениями

Зрелая дезинформационная кампания с изображениями состоит из нескольких взаимодействующих компонентов. Генерация: инструменты генерации изображений AI создают синтетические фотографии. Midjourney, DALL-E, Stable Diffusion и специально разработанные инструменты для дезинформации (некоторые из них недоступны публично) способны генерировать фотореалистичные изображения конкретных людей в конкретных ситуациях по запросу. Инженерия промптов стала отдельным навыком в дезинформационных сообществах — умение составлять запросы, обходящие фильтры безопасности и создающие убедительные, документально выглядящие изображения, — это осваиваемое ремесло.

Старение и деградация изображения. Необработанные AI-изображения часто выглядят слишком гладкими. Операторы дезинформации часто применяют постобработку, чтобы изображения больше походили на подлинные фотографии, — добавляют зерно, артефакты сжатия, EXIF-метаданные от реальных камер и цветокоррекцию, имитирующую конкретные устройства или платформы. Это усложняет обнаружение как для автоматизированных инструментов, так и для людей.

Распространение через сеть. Изображения сначала публикуются на платформах со слабой модерацией, а затем распространяются по сети, набирая просмотры. Часто «исходный» пост на маргинальной платформе скриншотится и репостится на основных платформах, поэтому основное распространение показывает скриншот, а не оригинал — это усложняет обнаружение по хешу изображения. Скоординированные аккаунты усиливают контент, выводя его в тренды до того, как модерация успевает отреагировать.

«Отмывание» контекста. Наиболее эффективные дезинформационные изображения сопровождаются ложным контекстом, а не полностью сфабрикованы. Реальные изображения, использованные вне контекста, или реальные изображения с сфабрикованными подписями часто эффективнее полностью синтетических изображений, потому что их сложнее опровергнуть однозначно. Синтетическое изображение наиболее сильно работает тогда, когда «подтверждает» утверждение, уже посеянное другими способами.

Заметные задокументированные случаи

Взрыв у Пентагона в 2023 году. Синтетическое изображение, изображающее крупный взрыв возле Пентагона, стало вирусным в мае 2023 года, вызвав кратковременную волатильность фондового рынка, прежде чем было опровергнуто. Изображение было сгенерировано инструментом AI и не содержало ни одной контекстной детали, которая привязала бы его к реальному месту, — мелкая деталь, которую многие, поделившиеся изображением, не заметили.

Политические дипфейки на выборах 2024 года в разных странах. На выборах 2024 года в нескольких странах в социальных сетях широко циркулировали AI-сгенерированные изображения кандидатов в компрометирующих или криминальных контекстах. Постэлекторальный анализ выявил скоординированные кампании синтетических изображений как минимум в восьми национальных выборах.

Синтетические изображения гуманитарных кризисов. AI-сгенерированные изображения зон конфликтов и катастроф использовались как для раздувания, так и для подавления внимания к реальным событиям — создавая синтетические изображения страданий для мотивации пожертвований в мошеннические благотворительные фонды и создавая синтетические изображения, якобы показывающие конфликты, которые на самом деле не так серьёзны, как сообщается.

Как распознать дезинформационные изображения, сгенерированные AI

Обнаружение начинается с осторожности перед публикацией. Самая важная привычка — сделать паузу перед распространением любого изображения, вызывающего сильную эмоциональную реакцию или подтверждающего уже имеющееся убеждение, — именно такие изображения дезинформационные кампании и рассчитаны производить.

Обратный поиск изображений (Google Images, TinEye, Yandex) — инструмент первой линии. Если изображение не имело более раннего присутствия в интернете, это либо подлинная свежая новость, либо новосозданный материал. Если оно появляется в контекстах, не соответствующих заявленному, значит, его используют вводящим в заблуждение образом.

Изучите детали. Генерация изображений AI в 2026 году отлично справляется с общей согласованностью — сцена выглядит правильно на первый взгляд, — но по-прежнему испытывает трудности с конкретными деталями при внимательном рассмотрении. Руки и пальцы остаются слабым местом большинства моделей. Текст на заднем плане часто бессмысленный или незаметно неправильный. Несоответствия освещения проявляются при внимательном изучении теней и отражений. Логотипы учреждений, значки и вывески часто немного неверны. Люди на заднем плане могут быть размыты или иметь анатомические аномалии.

Проверьте метаданные. Реальные документальные фотографии обычно несут EXIF-данные: модель камеры, GPS-координаты, временную метку, информацию об объективе. AI-сгенерированные изображения обычно не имеют EXIF-данных или имеют метаданные, не соответствующие заявленному контексту. Инструменты вроде Jeffrey's Exif Viewer или ExifTool делают эту проверку простой. Обратите внимание, что метаданные можно сфабриковать и удалить — отсутствие подозрительных метаданных не доказывает подлинность, но наличие противоречивых метаданных — тревожный сигнал.

Используйте инструменты обнаружения AI. SUS IT и аналогичные инструменты анализируют спектральные и статистические свойства изображений для выявления признаков генерации AI. Такие инструменты изучают характеристики, включая особенности частотной области (AI-изображения имеют характерные паттерны в преобразованиях Фурье), артефакты синтеза текстур и специфичные для генеративных моделей отпечатки. Для изображений, которые были сжаты, обрезаны или обработаны после генерации, обнаружение сложнее — но сильный сигнал обнаружения всё равно является значимым доказательством.

Проверьте цепочку источников. Где это изображение было опубликовано впервые? Скриншоты скриншотов скрывают происхождение. Чем дальше вы от исходного источника, тем меньше можете проверить. Для новостных изображений проверьте, опубликовало ли какое-либо легитимное информагентство (AP, Reuters, AFP) это изображение с редакционной проверкой. Если изображение доступно только как скриншот непроверяемого поста в социальной сети, считайте его непроверенным.

Криминалистический ракурс

Инструменты цифровой криминалистики выходят за рамки визуального осмотра. Анализ уровня ошибок (ELA) выделяет области изображения, сжатые с разным уровнем компрессии, что может указывать на манипуляцию, — хотя у этой техники есть ограничения применительно к современной генерации AI, которая создаёт единообразное сжатие по всему изображению. Анализ частотной области изучает преобразование Фурье изображения на предмет паттернов, связанных с генерацией AI, — метод, который сложнее обойти постобработкой, чем анализ на уровне пикселей. Анализ шумовых паттернов определяет специфический шумовой профиль различных датчиков камер, что может подтвердить или опровергнуть заявления об источнике изображения. Профессиональные новостные организации используют комбинацию этих техник с привлечением обученных аналитиков.

Реакция на уровне платформ

Крупные платформы значительно инвестировали в обнаружение AI-изображений, но их подходы различаются. Meta внедрила автоматическую маркировку «Сделано с помощью AI» с использованием метаданных C2PA (технического стандарта, позволяющего криптографически фиксировать факт генерации AI в файле изображения в момент создания) и собственных моделей обнаружения. YouTube применяет аналогичное обнаружение к контенту, содержащему изображения. TikTok сочетает автоматическое обнаружение с обязательным раскрытием информации со стороны создателя контента. Стандарт C2PA, поддерживаемый Adobe, Microsoft и другими компаниями, представляет собой наиболее перспективное долгосрочное решение — он встраивает в сам файл защищённую от подделки запись о происхождении изображения и истории его редактирования. Внедрение ускоряется, но пока не стало повсеместным.

Что могут сделать читатели и зрители

Практические рекомендации просты, но требуют последовательного применения. Сделайте паузу перед тем, как поделиться. Эмоциональная реакция, из-за которой вам хочется немедленно чем-то поделиться, — это именно то, что эксплуатируют дезинформационные кампании. Проверьте источник. Два надёжных независимых источника — это минимум для любого экстраординарного утверждения. Ищите то, чего не хватает. В дезинформационных изображениях обычно отсутствует подтверждающий контекст, который есть у подлинной документальной фотографии, — нет исходного источника, нет подхвата информагентствами, нет освещения местными СМИ в изображённой местности. Используйте доступные инструменты. Обратный поиск изображений, проверка метаданных и инструменты обнаружения AI бесплатны и требуют меньше минуты для применения. Сообщайте о предполагаемой дезинформации платформе и, где это уместно, организациям по проверке фактов. Чем быстрее синтетический контент помечен, тем меньше вреда он наносит.