Our Updated Preparedness Framework — 更新版前沿AI准备框架

原标题: Our Updated Preparedness Framework 中文标题: OpenAI更新版前沿AI准备框架：从能力评估到风险治理的全面升级 发布日期: 2025年4月15日 原文链接: https://openai.com/index/updating-our-preparedness-framework/

一句话摘要

OpenAI发布准备框架2.0版本，将AI能力风险等级精简为"高能力"和"关键能力"两个阈值，新增AI自我改进作为第三大追踪类别，同时引入安全咨询小组(SAG)治理架构，但也因包含"竞争对手条款"而引发争议。

---

核心内容

一、框架升级背景

OpenAI的准备框架(Preparedness Framework)是其追踪和应对前沿AI能力可能带来严重危害的核心治理文件。2025年4月15日发布的第二版进行了全面升级，聚焦于三个方面：更精准地锁定最重要的风险、更强化"充分最小化"风险在实践中的含义、以及更清晰的评估、治理和披露操作指南。

框架中对"严重危害"的定义门槛为：超过1000人死亡或超过1000亿美元的经济损失。

二、能力等级体系

框架将此前的多级体系精简为两个关键阈值：

高能力(High Capability)

• 定义：可能放大现有严重危害路径的能力
• 部署要求：必须在部署前具备充分最小化相关风险的安全保障措施
• 示例：GPT-5的推理模型(gpt-5-thinking)在生物和化学领域被评定为高能力等级

关键能力(Critical Capability)

• 定义：可能引入前所未有的全新严重危害路径的能力
• 开发要求：不仅部署前，在开发阶段也需要安全保障措施充分最小化风险
• 这是最高警戒级别，代表AI能力带来的全新威胁类型

值得注意的是，此前的"低"和"中"能力等级被移除，原因是它们"在操作上不起作用"——这意味着具有中等危害能力的系统可以在没有额外安全措施的情况下部署。

三、三大追踪类别

框架目前聚焦于三个前沿能力追踪领域：

1. 生物与化学能力 — 评估模型是否能协助制造生物或化学武器
2. 网络安全能力 — 评估模型在攻击性网络操作中的能力
3. AI自我改进能力(新增) — 这是2.0版本新增的关键类别，被纳入的原因是"它呈现出一种独特的、可信的、全新的、且可能不可逆的风险，即AI能力的快速加速可能难以追踪，并带来难以预测的严重后果"

追踪类别的选择标准(五要素)：

• 可信(Plausible)
• 可测量(Measurable)
• 严重(Severe)
• 全新(Net new)
• 即时/不可逆(Instantaneous/Irremediable)

四、治理结构

安全咨询小组(Safety Advisory Group, SAG)

• 负责产出"能力报告"(Capabilities Reports)和"安全保障报告"(Safeguards Reports)
• 能力报告评估模型是否跨越了构成风险的阈值
• 安全保障报告描述安全措施的设计和验证方式

争议性治理设计

• CEO萨姆·奥特曼单方面控制SAG的成员组成、资源和评估时间线
• SAG"无权进行拖延"——即使存在未解决的安全顾虑也无法延迟部署
• 安全与安保委员会(Safety and Security Committee)本应监督CEO决策，但由奥特曼本人与董事会领导共同领导，存在结构性利益冲突

五、竞争对手条款

框架中最具争议的条款：如果竞争对手的AI实验室发布了具有"高风险"能力的系统但没有类似保护措施，OpenAI可能会"调整"自己的安全要求。批评者指出，这实际上制度化了行业AI安全标准的"逐底竞争"。

六、外部评价

学术界的评估颇为严厉。一篇使用"可供性分析"(affordance analysis)方法的论文(arXiv: 2509.24394)得出结论："OpenAI的2025年4月准备框架不保证任何AI风险缓解实践。"该研究指出，框架中使用的语言是"请求评估"而非"要求评估"，实质性承诺与表面承诺之间存在根本差距。

在框架覆盖的24个风险类别中，仅有3个(12.5%)被系统性评估，其余21个(87.5%)框架仅"允许"但不强制评估，包括歧视、隐私侵犯、虚假信息和环境危害等重要领域。

---

技术要点

1. 双阈值体系：将AI能力风险精简为"高能力"和"关键能力"两级，移除了操作上无意义的低/中等级
2. AI自我改进追踪：首次将AI能力的自我加速作为独立追踪类别，反映了对递归自我改进风险的重视
3. 安全保障验证：要求通过能力报告和安全保障报告的双重文档体系验证安全措施的有效性
4. 竞争动态条款：允许根据竞争对手的行为调整安全标准，这在治理上开创了危险先例
5. 覆盖率不足：24个潜在风险类别中仅系统性追踪3个，大量社会性风险被忽视

深度解读

准备框架2.0版本体现了OpenAI在AI安全治理上的双重性格。一方面，将AI自我改进纳入追踪体系展现了对前沿风险的敏锐洞察——这是当下所有AI实验室中最关键的长期风险之一。另一方面，竞争对手条款和治理结构中的利益冲突严重削弱了框架的可信度。

从技术治理角度看，"高能力"触发部署前保障而"关键能力"触发开发阶段保障的分层设计是合理的。但移除中低等级的做法值得警惕——OpenAI曾在o1模型被评定为具有中等生物/化学危害能力和中等说服风险能力后依然部署，这暴露了框架执行力的根本性问题。

该框架最根本的问题在于其自愿性质。作为企业自我约束文件，它缺乏外部强制力，且CEO对治理流程拥有过大控制权。与之相比，欧盟AI法案等法规框架提供了更具约束力的替代方案。

延伸思考

1. 自我监管的局限性：当框架的制定者、执行者和被监管者是同一实体时，如何确保评估的客观性？AI安全领域是否需要类似金融监管的独立第三方审计机制？
2. 竞争动态的治理悖论：如果行业领先者的安全标准可以因竞争压力而降低，那么AI安全本身就成了一种竞争劣势。这对整个行业的安全生态意味着什么？
3. 风险覆盖的优先级取舍：聚焦于灾难性风险(生化、网络、自我改进)而忽视日常社会性风险(歧视、隐私、虚假信息)的策略是否合理？前者虽然后果更严重但概率更低，后者则每天都在发生。