记者验证 AI 生成媒体内容指南
SUS IT
面对海量 AI 生成的图像、视频、音频和文本,为记者提供一套全面的核实框架——附具体工具和新闻编辑室工作流程建议。
2026 年的编辑核实挑战与新闻业以往面对的任何情况都不同。问题不仅在于虚假内容更加以假乱真——更在于其数量之大,已使系统性核实从一种特殊措施变成了工作流程中的必备环节。没有将 AI 核实规程嵌入编辑流程的新闻编辑室,默认就是在没有做到充分尽职调查的情况下发布内容。本指南面向在职记者、编辑和新闻编辑室管理者,提供他们今天就能落地的实用框架。
AI 如何改变了核实难题
在 2023 年之前,视觉类虚假信息主要有三种类型:在不同语境下拍摄的真实照片、经过数字处理的照片,以及针对真实事件摆拍的照片。每一种都有已知的核实方法。AI 生成技术新增了第四种类型——完全合成、没有原始来源、也不留下任何人类痕迹的媒体内容——并且让第三种类型的制作变得大幅更容易。它还带来了 AI 生成文本这一新的虚假信息载体:新闻稿、引语和听起来官方的声明都可以用语言模型伪造,而且往往比伪造图像更具迷惑性,因为制作文本不需要任何取证设备。
针对 AI 调整的 SIFT 核实法
SIFT 核实法(停下来、调查来源、寻找更充分的报道、追溯说法)依然是良好核实工作的基础,但每一步如今都有了 AI 相关的新考量。停下来:在参与传播极具冲击力的媒体内容之前先停顿一下。内容越是能触动情绪,就越需要核实。调查来源:这是谁最先发布的?账号新建时间短、匿名频道,以及历史记录浅却在推广非同寻常说法的账号都值得格外留意——这些模式与 AI 生成的虚假信息宣传活动是吻合的。寻找更充分的报道:如果一件重大事件真的发生了,多家独立新闻机构会从不同角度、用不同的媒体素材进行报道。追溯说法:对图像和视频,要向前追溯其最早出现的时间点。
图像核实工作流程
针对新闻语境中的可疑图像:(1)反向图像搜索——在 Google 图片和 TinEye 上搜索,查找语境不符、原始出处和图库照片来源。(2)EXIF 元数据分析——使用 Jeffrey's Exif Viewer 检查相机数据的真实性、时间戳和 GPS 一致性。(3)视觉痕迹检查——高倍放大检查手部、文字、背景一致性、光照和边缘痕迹。(4)取证工具分析——使用 SUS IT、Hive Moderation 等类似工具进行像素级和频域分析。(5)C2PA 凭证核查——对于嵌入了内容凭证的来源的图像,核实其来源链条。新闻编辑室应设定明确的阈值:发布需要达到什么置信度?置信度不足时的升级处理路径是什么?
视频核实工作流程
针对可疑视频:(1)来源核实——这段视频最早出现在哪里?是哪个账号发布的,该账号是否有可信的历史记录?(2)低倍速逐帧分析——如视频核实指南中所述,查找时间线不一致、物理痕迹异常和背景异常。(3)视听同步分析——嘴形与声音是否精准吻合?背景音是否与所称环境相符?(4)取证工具分析——视频分析工具会检查时间连贯性、噪声模式,以及包括 rPPG(远程光电容积描记)在内的面部真实性信号。(5)地理位置核实——视频中显示的地点能否通过可见地标、建筑或环境特征加以确认?Google 街景、SunCalc(用于核实阴影方向与时间)以及建筑数据库等工具都能证实或反驳所称的地点。
音频核实工作流程
泄露的通话、演讲、声明等音频类爆料风险尤其高,因为它们易于伪造,且对受众而言可信度很高。针对可疑音频:(1)来源核实:是谁泄露的,他们的过往记录和动机如何?(2)语境核实:内容是否与已知的语境事实相符——说话者是否已知在所称的时间身处所称的地点?(3)声学环境分析:背景噪声是否与所称场景相符?(4)语音模式分析:语速语调、用词习惯和韵律是否与该说话者已知的录音相符?(5)取证音频分析:频谱分析、相位相干性分析和韵律模式分析都能检测出语音克隆的痕迹。
文本核实:AI 撰写的新闻稿和声明
AI 生成文本是记者最容易低估的核实难题。一份格式逼真、语气官方的新闻稿几秒钟内就能生成。针对文本类爆料:(1)来源核实:这份内容是通过既有渠道收到的,还是来源不明地突然出现的?(2)与已知立场交叉核对:声明内容是否与该机构已知的立场和沟通风格相符?(3)联系核实:拨打该机构经过核实的电话号码(而非文件本身提供的号码)来确认声明。(4)AI 文本检测:将文档通过 AI 文本检测工具进行分析,作为众多信号中的一项。(5)语言学分析:写作风格是否与来自同一来源的以往沟通内容相符?
AI 时代的信源核实
AI 生成的内容常常来自 AI 生成的信源:合成账号、虚构机构、虚假专家。如今的信源核实需要跨平台核查。一个自称专家或官方代表的信源应当具备:可核实的职业履历(LinkedIn、机构官网、学术发表);机构域名下的电子邮箱;能接通到真实机构的电话号码;以及早于当前新闻事件出现的跨平台存在记录。对于主动联系你、提供独家信息,却只存在于单一平台、或其网络存在感是最近才建立起来的信源,无论其材料看起来多么有说服力,都应格外持怀疑态度。
主流媒体的编辑政策
多家主流新闻机构已经公布了各自的 AI 核实政策。《美联社写作风格手册》新增了 AI 核实指导。BBC、路透社和法新社已实施强制性核实步骤,要求在发布 AI 生成媒体内容前必须完成。共同要素包括:在发布任何疑似 AI 生成的视觉媒体内容之前,要求至少咨询两个独立的取证工具;对任何 AI 生成的文本类爆料要求强制性信源核实步骤;以及编辑监督要求,将高风险内容升级交由资深编辑在发布前审核。新闻编辑室应将其 AI 核实政策形成文件,并对全体员工进行培训——不仅是数字专项人员,还包括所有可能接触到可疑内容的记者和编辑。
AI 检测工具在新闻编辑室中的角色
AI 检测工具是多步骤核实流程中的一个环节,而非独立的最终结论。正确使用时,它们能够:(1)提供量化信号,补充人工目视检查;(2)以超出人类感知的频率和分辨率检查内容;(3)形成可记录留存的核实步骤记录;(4)对海量内容进行分流,将人力注意力集中在高风险材料上。若使用不当——将其当作唯一的真相来源——则可能在任一方向上产生虚假的确信感。一个报告 85% AI 概率的检测工具应促使人们进一步调查并作出人工判断,而非自动否决;一个报告 15% 概率的工具,也不应让高风险内容的核实彻底省略。
培训与文化
AI 核实最重要的基础设施并非技术层面——而是文化层面。那些重视核实、记者敢于说"我来不及核实这条内容"的新闻编辑室,比那些让抢时效压过审慎核查的新闻编辑室发布的内容更准确。AI 核实培训应纳入所有编辑人员的入职培训和常规职业发展培训之中。最容易发布 AI 虚假信息的记者,往往不是经验不足的新人——而是那些对自己识别造假的能力信心十足、因而跳过系统性核实的资深记者。有信心却没有流程,是风险最高的组合。