为什么重要
生成模型如今可以低成本地产出照片级真实的图像、以假乱真的视频和克隆的声音。事后再去检测伪造内容是一场注定落败的赛跑,因为检测器并不可靠,而且每出一代新模型就落后得更远。
溯源把问题反了过来。它不去证明某样东西是假的,而是让诚实的来源能够证明什么是真的,并让 AI 工具给自己生成的内容打上标签。单靠这一点并不能阻止欺骗,但它给了记者、平台和普通观众一个可以核查的信号。
深度解析
内容溯源是指给照片、视频、音频片段或文档附上关于其来源和历史的可信信息:由哪台相机或哪个 AI 模型生成,由谁发布,经过了哪些编辑。人们常把它比作媒体内容的营养成分表。
主流标准是 C2PA,来自 Coalition for Content Provenance and Authenticity(内容来源和真实性联盟),该联盟由 Adobe、Arm、BBC、Intel、Microsoft 和 Truepic 于 2021 年创立,Google、OpenAI、Meta、Amazon 和 Sony 后来加入。它面向消费者的名称是 Content Credentials(内容凭证),显示为一个小小的“CR”图标,点击就能查看文件的历史。
C2PA 如何工作
当相机、编辑软件或 AI 生成器创建或修改一个文件时,它会写入一份清单(manifest):一组声明,比如“由这款相机拍摄”“由这个 AI 模型生成”或“经过裁剪和调色”。清单通过加密哈希与内容绑定,并用该工具的证书进行数字签名,这和保护网站安全的是同一类技术。
链条上的每个工具都会加上自己签名的清单,于是文件就积累起一段历史。验证方可以确认清单完好无损,签名者在信任列表上,并且内容在签名之后没有改动过。任何篡改都会破坏签名。
采用情况
- AI 生成器:OpenAI 为 DALL-E 及其后续图像模型生成的图像以及 Sora 视频附上 Content Credentials。Adobe Firefly、Microsoft 的图像工具和 Google 的模型也在许多产品中这样做。
- 相机和手机:Leica 在 2023 年推出了第一款内置凭证的相机,随后 Sony、Nikon 和 Canon 也推出了面向新闻摄影师的机型。Google 的 Pixel 10 手机会为相机应用拍摄的每张照片签名。
- 平台:LinkedIn、TikTok、YouTube 和 Meta 的应用会读取 C2PA 数据,为 AI 生成或相机拍摄的媒体内容加标签,但覆盖并不均衡。
局限
- 元数据很容易被去掉。 一次截图、一次重新编码,或者上传到会清除元数据的平台,都会删掉清单。这是该标准最大的弱点。
- 没有凭证说明不了什么。 大多数媒体内容都没有凭证,所以没有标签并不意味着某样东西是假的。作恶者只要使用不打标签的工具就行了。
- 来源不等于真相。 凭证说明的是文件从哪里来,而不是它展示的内容是否属实。一张真实且经过签名的照片,仍然可能是摆拍的,或者配了误导性的说明文字。
- 对签名者的信任。 这个系统的可靠程度取决于签名密钥的安全性和受信任证书持有者的名单。
- 隐私。 按照设计,身份信息是可选的,因为强制身份识别可能危及摄影师和举报人。
溯源、水印与指纹
三种技术互为补充:
- 签名元数据(C2PA)详细且可验证,但容易被剥离。
- 隐形水印(比如 Google 的 SynthID)嵌入在像素或音频本身之中。它们能经受许多编辑,但携带的信息很少,而且可能被有决心的攻击者削弱。
- 指纹技术(fingerprinting)把内容的特征签名存入数据库,这样被剥离了元数据的文件也能重新匹配到它的记录。
C2PA 的近期版本把三者结合成“持久凭证”(durable credentials):如果元数据被移除,可以用水印或指纹查回原始清单。
监管
法律正开始提出这方面的要求。欧盟《人工智能法案》第 50 条自 2026 年 8 月起适用,要求提供者以机器可读的方式标记 AI 生成的内容,并要求披露深度伪造。已在市场上的系统须在 2026 年 12 月 2 日前为其内容加上标记。加州的 AI Transparency Act(《AI 透明度法案》)要求大型生成式 AI 提供商嵌入溯源数据并提供检测工具,中国的 AI 生成内容标识规定也已于 2025 年 9 月生效。