Психология дипфейков: почему наш мозг не способен их распознать

Мы живём в мире, где точно знаем, что дипфейки существуют, где освещение мошенничества с дипфейками в новостях — обычное дело, и где AI-сгенерированные изображения ежедневно присутствуют в наших лентах. И тем не менее люди продолжают попадаться на синтетические медиа — включая хорошо образованных, технологически подкованных людей, которых прямо предупреждали проявлять скептицизм. Почему? Ответ кроется не только в качестве дипфейков, но и в фундаментальных особенностях человеческого познания, сформированных миллионами лет эволюции в мире, где визуальная информация была неизменно реальной.

Настройка по умолчанию на реальность

Человеческая система визуальной обработки развивалась в среде, где всё, что вы видели, было реальным — не существовало сфабрикованного видео, фотографии, иллюстрации, реалистичной настолько, чтобы её спутать с реальностью. В результате наша зрительная система имеет сильную «настройку по умолчанию на реальность»: мы обрабатываем визуальную информацию как реальную, если только нет конкретного, явного сигнала об обратном. Эта настройка хорошо служила нашим предкам. Она плохо служит нам в мире изощрённых синтетических медиа.

Настройка по умолчанию на реальность работает на низком, автоматическом уровне обработки — ещё до включения сознательного мышления. К тому моменту, когда наше осознанное аналитическое мышление получает возможность усомниться в увиденном, автоматическая обработка уже зафиксировала видео как отображающее реальное событие. Преодоление этого автоматического впечатления требует явных усилий, а мы применяем их непоследовательно, особенно когда потребляем медиа в том повседневном, низковнимательном режиме, который характерен для большей части использования социальных сетей.

Предвзятость подтверждения

Мы гораздо более доверчивы к информации, подтверждающей наши существующие убеждения. Дипфейк-видео политика, который нам не нравится, ведущего себя плохо, гораздо труднее критически оценить, чем дипфейк-видео человека, которого мы поддерживаем. Это не слабость и не глупость — это особенность работы любого человеческого разума. Предвзятость подтверждения действует как фильтр, повышающий порог скептицизма, когда информация совпадает с нашим существующим мировоззрением.

Дезинформационные кампании систематически используют это. Дипфейк-контент разрабатывается для конкретной целевой аудитории, чьи существующие убеждения делают её более склонной принять его без проверки. Дипфейк, который одна группа сразу поставит под сомнение, для другой окажется по-настоящему правдоподобным. Понимание этого не делает нас невосприимчивыми к нему — знание о предвзятости подтверждения не устраняет её эффекта, — но может мотивировать нас применять дополнительную осторожность именно к тому контенту, в который нам хочется верить.

Эмоциональное подавление рассудка

Эмоционально насыщенный контент — вызывающий страх, гнев, возмущение или возбуждение — ухудшает продуманное рассуждение. Когда контент вызывает сильный эмоциональный отклик, участок мозга, отвечающий за обработку эмоций (миндалевидное тело), становится высоко активным, тогда как префронтальная кора — отвечающая за аналитическое суждение — демонстрирует сниженную активность по сравнению с исходным уровнем. Мы буквально менее способны к рациональной оценке, когда эмоционально возбуждены.

Дипфейк-дезинформационный контент почти всегда эмоционально возбуждает. Видео, где политик говорит что-то возмутительное, поддельный новостной сюжет о катастрофе, синтетическое видео знаменитости в компрометирующей ситуации — всё это разработано так, чтобы вызывать эмоциональные реакции, замыкающие критическую оценку накоротко. Эмоциональная реакция — это вектор; ложное убеждение — это полезная нагрузка.

Перенос доверия к источнику

Мы оцениваем информацию частично на основе её источника и распространяем доверие на контент в зависимости от того, где мы с ним столкнулись. Если дипфейк, похоже, исходит от доверенного источника — новостной организации, верифицированного аккаунта, друга, которому мы доверяем, — мы переносим доверие к этому источнику на сам контент. Мы не проводим полную независимую переоценку содержания. Это когнитивно эффективно в мире подлинной информации, но делает нас уязвимыми к имитации источника.

Именно поэтому изощрённые дезинформационные операции вкладывают значительные усилия в «отмывание» источника — создание видимости того, что контент происходит из достоверных источников. Дипфейк, опубликованный якобы от имени верифицированного новостного аккаунта, наследует достоверность этой организации. Тот факт, что аккаунт поддельный или взломанный, или что контент был скриншотирован и вырван из контекста, часто остаётся незамеченным.

Эффект WYSIATI

Психолог Даниэль Канеман описал когнитивную тенденцию, которую он назвал «то, что вы видите, — это всё, что есть» (WYSIATI, «what you see is all there is»): оценивая доказательства, мы склонны использовать только доступную нам информацию и игнорировать то, чего мы не знаем. Мы спонтанно не задумываемся об информации, которой нам может не хватать и которая изменила бы нашу оценку.

Смотря дипфейк, мы естественным образом не задаёмся вопросом: «Может ли это быть сфабриковано каким-либо образом?» Мы оцениваем то, что видим. Вопрос фабрикации не возникает, пока что-то явно его не запускает, — конкретный артефакт на видео, неправдоподобный элемент контента, предупреждение от кого-то ещё. При отсутствии явного триггера наш мозг достраивает полную картину из неполных доказательств. Дипфейк, достаточно хороший, чтобы не вызвать явных подозрений, достаточно хорош, чтобы эксплуатировать эффект WYSIATI.

Беглость восприятия и иллюзия истины

Когнитивные исследования последовательно показывают, что мы путаем беглость обработки — насколько легко мы обрабатываем информацию — с правдивостью. Контент, который легко понять и который визуально согласован, ощущается более достоверным, чем контент запутанный или фрагментированный. Хорошо сделанные дипфейки — чёткие, связные, профессионально смонтированные — извлекают выгоду из этой эвристики беглости. Ощущение нашего мозга «это легко обработать» превращается в «это кажется реальным».

У этого есть практическое следствие: по мере того как технология генерации AI совершенствуется и дипфейки становятся более отполированными, их когнитивно легче обрабатывать, а значит, они убедительнее уже только за счёт этого механизма. Чем выше качество исполнения, тем сложнее нам сохранять должный скептицизм.

Эффект повторяющегося воздействия

Знакомость порождает доверие. Исследования «иллюзорного эффекта истины» показывают, что повторное столкновение с утверждением — даже ложным — повышает вероятность того, что мы оценим его как истинное. Когда дипфейк-видео просматривается многократно или широко распространяется, каждое новое столкновение с ним повышает воспринимаемую зрителями достоверность, независимо от каких-либо реальных доказательств его правдивости.

Вирусные дезинформационные кампании систематически используют это. Контент, который широко распространяется, многие люди видят снова и снова, а повторное воздействие делает его более правдоподобным на ощущение. Цель раннего продвижения в дезинформационной кампании — не только охват, но и достоверность, возникающая из видимости широкого признания. «Столько людей делятся этим» действует как социальное доказательство, замыкающее независимую оценку накоротко.

Пределы осознанности

Возможно, самый отрезвляющий вывод исследований в том, что осознание существования дипфейков даёт меньше защиты, чем можно было бы ожидать. Исследования, проведённые в 2023–2025 годах, показали, что даже когда испытуемым прямо говорили перед просмотром, что часть контента сгенерирована AI и может быть обманчивой, у них всё равно наблюдался значительный уровень обмана. Автоматическая обработка, порождающая первоначальное впечатление реальности, в значительной степени невосприимчива к явным предупреждениям. Нам можно сказать, что что-то потенциально поддельно, и мы всё равно будем когнитивно воспринимать это как реальное.

Это не значит, что осознанность бесполезна — она помогает, когда мы намеренно применяем привычки проверки. Но это означает, что нам не стоит полагаться на общую осведомлённость как на защиту. Защита должна исходить из привычного поведения по проверке, а не просто из знания о существовании дипфейков.

Выработка лучших привычек

Учитывая действующие когнитивные механизмы, что мы можем реально сделать? Делайте паузу перед тем, как поделиться, особенно в состоянии эмоционального возбуждения. Сильная эмоциональная реакция, из-за которой вам хочется немедленно чем-то поделиться, — это сигнал замедлиться, а не ускориться. Применяйте проверку к контенту, в который хотите верить, так же строго, как к контенту, который вызывает у вас скептицизм. Предвзятость подтверждения делает желаемый контент опаснее нежелательного. Используйте конкретные инструменты — обратный поиск изображений, проверку метаданных, обнаружение AI — вместо того чтобы полагаться на свою способность распознать подделку визуально. Проверяйте первоисточники перед тем, как делиться чем-либо, что было скриншотировано или прошло через несколько шагов распространения от предполагаемого происхождения. Выработайте привычку спрашивать «откуда я знаю, что это реально?» применительно к любому важному визуальному контенту. Эти привычки не сделают вас невосприимчивыми к дипфейкам — этого не добьётся ничто, — но они существенно снизят вашу уязвимость.

Психологические механизмы, делающие дипфейки эффективными, — это глубокие особенности человеческого познания, а не личные недостатки. Правильная реакция — не стыд за свою уязвимость, а выработка внешних привычек и инструментов, компенсирующих то, с чем не может справиться в одиночку наша эволюционно сложившаяся система визуальной обработки.