跳到主要内容
Zubnet AI › 学习 › Wiki › 负责任扩展政策
安全

负责任扩展政策

别名:Responsible Scaling Policy、RSP、Frontier Safety Framework、Preparedness Framework、前沿安全框架
AI 开发者的一项公开承诺,即测试模型是否具备危险能力,并在开发或发布越过既定风险阈值的模型之前落实特定的保障措施。

为什么重要

这些框架是前沿 AI 公司目前管理自身最严重风险的主要方式。它们决定了模型在发布前要经过哪些测试,模型权重受到怎样的安全保护,以及原则上公司在什么情况下会暂缓发布模型。

它们也成了监管的模板。在 2024 年 5 月的 AI 首尔峰会上,16 家公司承诺发布这类框架。此后,法律和准则开始把自愿的做法变成义务。

深度解析

负责任扩展政策建立在条件式承诺之上,也就是“如果……那么……”:如果我们的模型达到能力 X,那么我们将落实保障措施 Y。Anthropic 最初的政策还承诺,在落实这些保障措施之前先暂停,这项暂停承诺已在 RSP v3.0(2026 年)中取消。这个思路是把安全措施与模型实际能做的事情挂钩,而不是提前争论危险的 AI 何时到来。

“Responsible Scaling Policy”(RSP)是 Anthropic 对其框架的称呼,首次发布于 2023 年 9 月,基于与非营利评估机构 METR 共同提出的概念。其他实验室用不同的名字表达同一个基本思路。OpenAI 有 Preparedness Framework,Google DeepMind 有 Frontier Safety Framework,通用的说法是 frontier safety framework(前沿安全框架)。

共同的结构

  • 风险领域:这些框架关注严重的大规模危害。通常的清单包括协助制造化学、生物、放射性和核(CBRN)武器,高级网络攻击,以及能自主加速 AI 研究或逃避人类控制的 AI。
  • 能力阈值:事先定义的水平,模型达到后会实质性地增加风险,例如为试图制造生物武器的人提供真正的助力。
  • 评估:在部署前和部署期间运行的测试,用来检查模型是否正在接近阈值,包括红队测试和有人类专家参与的研究。
  • 保障措施:分两类。部署保障措施通过分类器、监控和访问控制来限制滥用。信息安全保障措施保护模型权重不被窃取。
  • 治理:谁来决定,例外情况如何处理,有哪些内部监督,以及公开哪些内容。

Anthropic 的 ASL 体系

Anthropic 的 RSP 曾定义 AI Safety Levels(ASL,AI 安全等级),大致参照了处理危险病原体的实验室所用的生物安全等级。ASL-2 涵盖不构成重大灾难性风险的模型。ASL-3 适用于可能为具备基本技术背景的人制造 CBRN 武器提供实质帮助的模型,它要求更强的安全防护和有针对性的部署保护。2025 年 5 月,随着 Claude Opus 4 的发布,Anthropic 首次启用了 ASL-3 保护措施。2026 年 2 月 24 日发布的 RSP v3.0 重写了这一政策:它不再定义逐级上升的 ASL 等级,也不再包含暂停承诺,但保留了 ASL-3 保障措施,并新增了风险报告(Risk Reports)。

其他框架

OpenAI 的 Preparedness Framework(首次发布于 2023 年 12 月,2025 年修订)跟踪的类别包括生物和化学能力、网络安全以及 AI 自我改进,设有“High”和“Critical”两级阈值。Google DeepMind 的 Frontier Safety Framework(2024 年 5 月发布,此后有更新)定义了 Critical Capability Levels,并增加了有害操纵和未对齐等风险。Meta、xAI、Microsoft、Amazon 等公司也发布了各自的版本。

从自愿到强制

  • 欧盟《人工智能法案》(EU AI Act)的通用 AI 行为准则(2025 年)要求能力最强的模型的提供者维护一套安全与安保框架,评估系统性风险,并报告严重事件。
  • 加州 SB 53 法案于 2025 年 9 月签署,要求大型前沿开发者公布其安全框架并报告重大安全事件,同时保护举报人。
  • 纽约州 RAISE 法案于 2025 年 12 月签署、2026 年 3 月修订,设定了类似的要求,将于 2027 年生效。

批评

  • 自我监管:规则由公司自己制定,测试由自己进行,结果由自己评判,而且面临强大的商业发布压力。
  • 阈值模糊:“显著助力”(significant uplift)之类的说法留下了很大的解释空间。
  • 承诺在变:一些公司修订了框架,批评者认为这放松了此前的承诺,有些框架还允许在竞争对手没有类似保护就继续推进时调整保障措施。
  • 评估脆弱:测试可能低估模型,原因可能是能力激发不足,也可能是模型在 sandbagging。
  • 范围狭窄:按照设计,它们针对的是灾难性风险,而不是偏见、侵犯隐私或虚假信息等日常危害。

支持者则回应说,具体而公开的承诺总比没有好,它们在公司内部形成了投资安全的压力,也为监管者提供了一个经过检验、可以借鉴的范本。

← 所有术语
ESC