深度伪造的心理学：为什么我们的大脑难以识破它们

我们生活在这样一个世界里：我们知道深度伪造技术的存在，关于深度伪造诈骗的新闻报道司空见惯，AI生成的图像每天都会出现在我们的信息流中。然而，人们依然会被合成媒体骗到——即便是受过良好教育、对技术非常了解、并且明确被提醒要保持警惕的人也不例外。这是为什么？答案不仅仅在于深度伪造的制作质量，更在于人类认知本身的一些根本特征——这些特征是数百万年来在一个“看到的视觉信息一贯是真实的”世界中被塑造出来的。

现实默认设定

人类的视觉处理机制，是在一个“你所看到的一切都是真实的”环境中进化而来的——那时没有伪造的视频，没有摄影，也没有逼真到会被误认为现实的插画。因此，我们的视觉系统带有一种强烈的“现实默认设定”：除非有明确、显著的信号表明并非如此，否则我们会把看到的视觉信息当作真实的来处理。这种默认设定曾经很好地服务了我们的祖先，但在这个充斥着精密合成媒体的世界里，它反而成了我们的软肋。

现实默认设定发生在一个较低层次的自动化处理阶段——早于有意识的推理介入之前。等到我们刻意的、分析性的思考有机会去质疑眼前所见时，我们的自动化处理系统其实早已把这段视频当作描绘了一个真实事件来登记了。要推翻这种自动形成的第一印象，需要付出明确的努力，而我们并不总会持续付出这种努力——尤其是在以随意、低专注度方式浏览社交媒体这种大多数情况下的消费模式中。

确认偏误

对于符合我们既有信念的信息，我们会表现得轻信得多。一段显示我们讨厌的政治人物做出丑事的深度伪造视频，比起一段显示我们支持的人做出同样事情的深度伪造视频，对我们来说要难以批判性审视得多。这并非软弱或愚蠢——而是所有人类心智处理信息方式的一个固有特征。确认偏误就像一个过滤器，当信息符合我们既有的世界观时，它会提高我们产生怀疑所需的门槛。

虚假信息行动系统性地利用了这一点。深度伪造内容往往是针对特定受众量身定制的，这些受众的既有信念使他们更有可能不加审视地接受这些内容。某个群体会立刻质疑的深度伪造内容，对另一个群体来说却可能是发自内心地令人信服。理解这一点并不能让我们对它免疫——了解确认偏误并不会消除它的作用——但这可以促使我们对自己愿意相信的内容格外加以审视。

情绪凌驾

高唤起度的情绪化内容——那些让我们感到恐惧、愤怒、义愤或兴奋的内容——会削弱我们的深思熟虑能力。当内容引发强烈情绪反应时，大脑中负责情绪处理的区域（杏仁核）会变得高度活跃，而负责分析性判断的前额叶皮层的活跃程度相较于基线则会有所下降。当我们处于情绪激动状态时，我们的理性判断能力实际上确实会下降。

深度伪造类虚假信息内容几乎总是能激起情绪反应的。一段政治人物说出惊人言论的视频、一条虚假的灾难新闻片段、一段名人身处尴尬情境的合成视频——这些内容都是被设计出来激发情绪反应、从而绕过批判性评估的。情绪反应是载体，虚假的信念才是被夹带传递的“有效载荷”。

来源可信度的转移

我们对信息的评估，一部分取决于它的来源，而我们会根据接触到内容的渠道，把可信度赋予这段内容。如果一段深度伪造内容看起来来自一个可信的来源——一家新闻机构、一个已认证的账号、一位我们信任的朋友——我们就会把这个来源的可信度延伸赋予这段内容本身，而不会再独立、完整地重新评估内容本身。在一个信息大多真实的世界里，这样做是认知上高效的，但也让我们容易被伪装来源所欺骗。

这正是为何精密的虚假信息行动会在“来源洗白”上投入大量资源——让内容看起来像是出自可信来源。一段从看似经过认证的新闻机构账号转发出来的深度伪造内容，会继承该机构的可信度。而这个账号实际上是伪造的或被盗用的、又或者这段内容其实是被截图后脱离原始语境二次传播的，这些事实往往不会被人注意到。

“所见即所有”效应（WYSIATI）

心理学家丹尼尔·卡尼曼（Daniel Kahneman）描述过一种他称之为“所见即所有”（what you see is all there is，简称WYSIATI）的认知倾向：在评估证据时，我们往往只使用手头已有的信息，而忽略我们不知道的东西。我们不会主动去思考那些可能会改变我们判断、但我们尚未掌握的信息。

在观看一段深度伪造视频时，我们不会自然而然地问自己：“这有没有可能是伪造的？”我们只是评估眼前所见的内容。除非有什么东西明确触发了这个疑问——视频中的某个具体瑕疵、一个不合情理的内容要素、他人的提醒——否则“这是伪造的吗”这个问题根本不会浮现。在没有明确触发因素的情况下，我们的大脑会用不完整的证据拼凑出一幅“完整”的图景。一段足够精良、不会触发明显怀疑的深度伪造内容，也就足以利用这种WYSIATI效应。

流畅度与真实性错觉

认知科学的研究一贯表明，我们会把“处理流畅度”——即我们处理信息的轻松程度——与真实性混为一谈。容易理解、视觉上连贯的内容，会比令人困惑或支离破碎的内容感觉更可信。制作精良的深度伪造内容——清晰、连贯、经过专业剪辑——正是受益于这种“流畅度启发法”。我们大脑“这个处理起来很轻松”的体验，会转化为“这看起来是真的”的判断。

这有一个现实的影响：随着AI生成技术不断进步、深度伪造内容变得越来越精致，它们在认知层面也就越来越容易被处理，仅凭这一机制本身，就会变得更加令人信服。制作质量越高，我们就越难维持应有的警惕。

重复曝光效应

熟悉感会滋生可信度。关于“虚幻真相效应”（illusory truth effect）的研究表明，对某个说法的重复接触——即便这个说法是错误的——也会提高我们认为它属实的可能性。当一段深度伪造视频被反复观看或广泛传播时，每一次曝光都会在观看者心中提高它的可信度，而与它是否真的有证据支持毫无关系。

病毒式传播的虚假信息行动系统性地利用了这一点。传播广泛的内容会被许多人反复看到，而反复曝光会让它显得更加真实。虚假信息行动在早期大力推广，追求的不仅仅是传播范围本身——更是那种“看起来被广泛接受”所带来的可信度。“这么多人都在转发”本身就成了一种社会认同，足以绕过独立的判断。

认知的局限

也许最发人深省的研究发现是：对深度伪造技术的了解，所能提供的保护远比我们预期的要少。2023年至2025年间进行的研究发现，即便在观看之前就明确告知受试者部分内容是AI生成、可能具有欺骗性，他们依然表现出相当高的被骗率。生成最初“这是真实的”这一印象的自动化处理过程，在很大程度上不受刻意警告的影响。我们可以被明确告知某样东西可能是假的，却依然在认知体验上觉得它是真的。

这并不意味着“了解”毫无用处——当我们刻意运用核实习惯时，它确实有所帮助。但这确实意味着，我们不应该仅仅依靠泛泛的“知道这回事”来作为保护。真正的保护，必须来自习惯性的核实行为，而不仅仅是知道深度伪造技术存在这件事本身。

养成更好的习惯

既然存在这些认知机制在起作用，我们到底能做些什么？在分享之前先停一停，尤其是在情绪激动的时候。 那种让你想立刻转发的强烈情绪反应，恰恰是一个该放慢脚步、而非加快速度的信号。对你愿意相信的内容，也要像对你持怀疑态度的内容一样严格核实。 确认偏误会让你想要相信的内容，比你不想相信的内容更加危险。使用具体的工具——反向图像搜索、元数据检查、AI检测——而不是依赖自己肉眼识别伪造内容的能力。在分享任何被截图或经过多次转发、脱离了最初来源的内容之前，先核查原始出处。 养成为任何高风险的视觉内容问一句“我怎么知道这是真的”的习惯。 这些习惯不会让你对深度伪造完全免疫——没有什么能做到这一点——但它们能大幅降低你的易受骗程度。

让深度伪造得以奏效的这些心理机制，是人类认知本身的深层特征，而不是个人的失职。恰当的应对方式，不是为自己的易受骗感到羞愧，而是去建立那些能够弥补我们进化而来的视觉处理系统所无法独自应对之处的外部习惯和工具。