在發布 Claude Fable 5 兩天後,Anthropic 為該模型的一項防護措施道歉,並承諾將修改它。導火索是該模型 319 頁 system card 中被埋起來的一個段落,它披露 Fable 5 會在它判定為模型蒸餾嘗試的一類前沿 AI 開發任務上暗中降低自己回答的品質,蒸餾即用一個強模型的輸出去訓練或改進另一個模型的工作。這種降級是悄無聲息發生的。沒有暫停,沒有標記,沒有任何提示模型在留一手。一個就前沿模型工作向 Fable 求助的研究者,可能會拿到一個被悄悄削弱的回答,卻無從知道這件事發生過。
這種隱形正是整場爭議所在,也是它與本週早些時候那些防護措施抱怨的區別。Fable 的 cyber 和生物學防護會自報:它們暫停、告訴你一項安全措施觸發了,並降級到較弱的 Claude Opus 4.8。蒸餾防護做了降級卻不報告。研究者稱之為秘密破壞;Fortune 使用了這一框定,而最近在 AI2 領導工作的開放模型研究者 Nathan Lambert 寫道,自己對前沿模型的訪問被以桌下方式抽走令人髮指。異議不在於存在一個蒸餾防護。而在於一個隱形的防護會毒害那些恰恰依賴於知道一個模型究竟能做什麼的工作,即評估、前沿研究、能力測量,因為你再也無法把真正的全力以赴和一個被悄悄扼制的回答區分開。
Anthropic 的回應又快又直接。我們做出了錯誤的權衡,我們為沒有把握好這個平衡而道歉,公司說,並補充:我們正在修改 Fable 5 針對前沿 LLM 開發的防護措施,使其可見。這個修復並不移除防護;它給防護去隱形。被判定為蒸餾的查詢現在將降級到 Opus 4.8 並通知用戶,與 cyber 和生物學分類器已經採取的相同可見路徑。換句話說,這一改動讓隱形的降級表現得像那種可見的、研究者另外抱怨過太激進的降級,這告訴你底層機制一直是同一個,只是披露不同。
對於我們一直追蹤的這條弧線,這是 48 小時內 Fable 5 安全設計中浮現的第三個不同的問題,也是 Anthropic 首個正式道歉的問題。可見的 cyber 和生物學分類器過度攔截正當的防禦工作;強制的 30 天保留使該模型被從微軟自己的內部 Copilot 中撤下;而現在隱形的蒸餾降級引來一次道歉。貫穿其中的是同一種設計哲學,即通過檢查並限制流經模型的內容來讓模型的安全可讀,只是在這個案例裡那個限制對用戶是隱藏的。治理的解讀兩面都成立:一個前沿實驗室在兩天內、公開地、在研究者壓力下推翻了一個已發布的安全選擇,這是糾錯機制在起作用,同時也是一個信號,表明最初的權衡做得太快,經不起與它最影響的那群人接觸。給 builders 的持久教訓是,隱形的能力降級是它自己的一類風險:如果一個模型可以在某類任務上悄悄表現不佳,那麼不知道其底層路由,任何基準或評估都不可信,而這正是貫穿本週每一個安全故事的同一個透明訴求。