為什麼重要
生成模型如今可以低成本地產出照片級真實的影像、以假亂真的影片和複製的聲音。事後再去偵測偽造內容是一場注定落敗的賽跑,因為偵測器並不可靠,而且每出一代新模型就落後得更遠。
溯源把問題反了過來。它不去證明某樣東西是假的,而是讓誠實的來源能夠證明什麼是真的,並讓 AI 工具給自己生成的內容打上標籤。單靠這一點並不能阻止欺騙,但它給了記者、平台和普通觀眾一個可以查核的訊號。
深度解析
內容溯源是指給照片、影片、音訊片段或文件附上關於其來源和歷史的可信資訊:由哪台相機或哪個 AI 模型生成,由誰發布,經過了哪些編輯。人們常把它比作媒體內容的營養成分表。
主流標準是 C2PA,來自 Coalition for Content Provenance and Authenticity(內容來源和真實性聯盟),該聯盟由 Adobe、Arm、BBC、Intel、Microsoft 和 Truepic 於 2021 年創立,Google、OpenAI、Meta、Amazon 和 Sony 後來加入。它面向消費者的名稱是 Content Credentials(內容憑證),顯示為一個小小的「CR」圖示,點擊就能查看檔案的歷史。
C2PA 如何工作
當相機、編輯軟體或 AI 生成器建立或修改一個檔案時,它會寫入一份清單(manifest):一組聲明,比如「由這款相機拍攝」「由這個 AI 模型生成」或「經過裁剪和調色」。清單透過加密雜湊與內容綁定,並用該工具的憑證進行數位簽章,這和保護網站安全的是同一類技術。
鏈條上的每個工具都會加上自己簽署的清單,於是檔案就累積起一段歷史。驗證方可以確認清單完好無損,簽署者在信任列表上,並且內容在簽章之後沒有改動過。任何竄改都會破壞簽章。
採用情況
- AI 生成器:OpenAI 為 DALL-E 及其後續影像模型生成的影像以及 Sora 影片附上 Content Credentials。Adobe Firefly、Microsoft 的影像工具和 Google 的模型也在許多產品中這樣做。
- 相機和手機:Leica 在 2023 年推出了第一款內建憑證的相機,隨後 Sony、Nikon 和 Canon 也推出了面向新聞攝影師的機型。Google 的 Pixel 10 手機會為相機應用程式拍攝的每張照片簽章。
- 平台:LinkedIn、TikTok、YouTube 和 Meta 的應用程式會讀取 C2PA 資料,為 AI 生成或相機拍攝的媒體內容加標籤,但覆蓋並不均衡。
局限
- 中繼資料很容易被去掉。 一次截圖、一次重新編碼,或者上傳到會清除中繼資料的平台,都會刪掉清單。這是該標準最大的弱點。
- 沒有憑證說明不了什麼。 大多數媒體內容都沒有憑證,所以沒有標籤並不意味著某樣東西是假的。作惡者只要使用不打標籤的工具就行了。
- 來源不等於真相。 憑證說明的是檔案從哪裡來,而不是它展示的內容是否屬實。一張真實且經過簽章的照片,仍然可能是擺拍的,或者配了誤導性的說明文字。
- 對簽署者的信任。 這個系統的可靠程度取決於簽章金鑰的安全性和受信任憑證持有者的名單。
- 隱私。 按照設計,身分資訊是可選的,因為強制身分識別可能危及攝影師和吹哨者。
溯源、浮水印與指紋
三種技術互為補充:
- 簽章中繼資料(C2PA)詳細且可驗證,但容易被剝離。
- 隱形浮水印(比如 Google 的 SynthID)嵌入在像素或音訊本身之中。它們能經受許多編輯,但攜帶的資訊很少,而且可能被有決心的攻擊者削弱。
- 指紋技術(fingerprinting)把內容的特徵碼存入資料庫,這樣被剝離了中繼資料的檔案也能重新匹配到它的記錄。
C2PA 的近期版本把三者結合成「持久憑證」(durable credentials):如果中繼資料被移除,可以用浮水印或指紋查回原始清單。
監管
法律正開始提出這方面的要求。歐盟《人工智慧法案》第 50 條自 2026 年 8 月起適用,要求提供者以機器可讀的方式標記 AI 生成的內容,並要求揭露深度偽造。已在市場上的系統須在 2026 年 12 月 2 日前為其內容加上標記。加州的 AI Transparency Act(《AI 透明度法案》)要求大型生成式 AI 供應商嵌入溯源資料並提供偵測工具,中國的 AI 生成內容標示規定也已於 2025 年 9 月生效。