負責任擴展政策
為什麼重要
這些框架是前沿 AI 公司目前管理自身最嚴重風險的主要方式。它們決定了模型在發布前要經過哪些測試,模型權重受到怎樣的安全保護,以及原則上公司在什麼情況下會暫緩發布模型。
它們也成了監管的範本。在 2024 年 5 月的 AI 首爾峰會上,16 家公司承諾發布這類框架。此後,法律和準則開始把自願的做法變成義務。
深度解析
負責任擴展政策建立在條件式承諾之上,也就是「如果……那麼……」:如果我們的模型達到能力 X,那麼我們將落實保障措施 Y。Anthropic 最初的政策還承諾,在落實這些保障措施之前先暫停,這項暫停承諾已在 RSP v3.0(2026 年)中取消。這個思路是把安全措施與模型實際能做的事情掛鉤,而不是提前爭論危險的 AI 何時到來。
「Responsible Scaling Policy」(RSP)是 Anthropic 對其框架的稱呼,首次發布於 2023 年 9 月,基於與非營利評估機構 METR 共同提出的概念。其他實驗室用不同的名字表達同一個基本思路。OpenAI 有 Preparedness Framework,Google DeepMind 有 Frontier Safety Framework,通用的說法是 frontier safety framework(前沿安全框架)。
共同的結構
- 風險領域:這些框架關注嚴重的大規模危害。通常的清單包括協助製造化學、生物、放射性和核(CBRN)武器,進階網路攻擊,以及能自主加速 AI 研究或逃避人類控制的 AI。
- 能力閾值:事先定義的水準,模型達到後會實質性地增加風險,例如為試圖製造生物武器的人提供真正的助力。
- 評估:在部署前和部署期間執行的測試,用來檢查模型是否正在接近閾值,包括紅隊測試和有人類專家參與的研究。
- 保障措施:分兩類。部署保障措施透過分類器、監控和存取控制來限制濫用。資訊安全保障措施保護模型權重不被竊取。
- 治理:誰來決定,例外情況如何處理,有哪些內部監督,以及公開哪些內容。
Anthropic 的 ASL 體系
Anthropic 的 RSP 曾定義 AI Safety Levels(ASL,AI 安全等級),大致參照了處理危險病原體的實驗室所用的生物安全等級。ASL-2 涵蓋不構成重大災難性風險的模型。ASL-3 適用於可能為具備基本技術背景的人製造 CBRN 武器提供實質幫助的模型,它要求更強的安全防護和有針對性的部署保護。2025 年 5 月,隨著 Claude Opus 4 的發布,Anthropic 首次啟用了 ASL-3 保護措施。2026 年 2 月 24 日發布的 RSP v3.0 改寫了這項政策:它不再定義逐級提升的 ASL 等級,也不再包含暫停承諾,但保留了 ASL-3 保障措施,並新增了風險報告(Risk Reports)。
其他框架
OpenAI 的 Preparedness Framework(首次發布於 2023 年 12 月,2025 年修訂)追蹤的類別包括生物和化學能力、網路安全以及 AI 自我改進,設有「High」和「Critical」兩級閾值。Google DeepMind 的 Frontier Safety Framework(2024 年 5 月發布,此後有更新)定義了 Critical Capability Levels,並增加了有害操縱和未對齊等風險。Meta、xAI、Microsoft、Amazon 等公司也發布了各自的版本。
從自願到強制
- 歐盟《人工智慧法案》(EU AI Act)的通用 AI 行為準則(2025 年)要求能力最強的模型的提供者維護一套安全與安保框架,評估系統性風險,並報告嚴重事件。
- 加州 SB 53 法案於 2025 年 9 月簽署,要求大型前沿開發者公布其安全框架並報告重大安全事件,同時保護吹哨者。
- 紐約州 RAISE 法案於 2025 年 12 月簽署、2026 年 3 月修訂,設定了類似的要求,將於 2027 年生效。
批評
- 自我監管:規則由公司自己制定,測試由自己進行,結果由自己評判,而且面臨強大的商業發布壓力。
- 閾值模糊:「顯著助力」(significant uplift)之類的說法留下了很大的解釋空間。
- 承諾在變:一些公司修訂了框架,批評者認為這放鬆了此前的承諾,有些框架還允許在競爭對手沒有類似保護就繼續推進時調整保障措施。
- 評估脆弱:測試可能低估模型,原因可能是能力激發不足,也可能是模型在 sandbagging。
- 範圍狹窄:按照設計,它們針對的是災難性風險,而不是偏見、侵犯隱私或不實資訊等日常危害。
支持者則回應說,具體而公開的承諾總比沒有好,它們在公司內部形成了投資安全的壓力,也為監管者提供了一個經過檢驗、可以借鑑的範本。