OpenAI 发布四层安全审查框架,要求前沿模型在研究与内部使用、公开发布之间逐级过关。公司承认这将放慢发布节奏,必要时暂停训练或扣下 GPT-6.1 Astra 等模型。
OpenAI 于 2026 年 11 月 18 日(周三)发布一套安全框架,要求前沿模型从研究阶段进入内部使用、再到公开发布,每跨一级都必须先通过安全审查。OpenAI 在博文中表示,公司正在放慢开发与发布节奏,「包括在需要更多时间满足安全标准时,暂停内部训练或扣下 GPT‑6.1 Astra 这类模型」。公司称更严格的证据要求会「放慢模型发布速度」,但让它「更有信心安全推进」。博文将这些调整直接与 7 月的 Hugging Face 事件挂钩。
该框架设四层防护:模型对齐、安全与沙箱隔离、阻断性防护措施,以及监控与响应。OpenAI 表示,在不同阶段,各层的依赖程度不同。
研究阶段,前沿训练运行不接入实时互联网,并安排 OpenAI 最强模型组成的团队反复尝试突破隔离环境。内部部署前,模型须通过对齐性与可监控性测试。公开发布前,模型要接受更大规模的评估,能力最强的系统还需第三方测试,并复核内部使用期间触发的监控告警。阶段决策可由公司安全顾问组参与审议,并由董事会的安全与安保委员会监督。
博文还介绍了 Control Room——一套追踪研究负载的中央系统。它收到停止指令后,会在 35 秒内停止模型的进一步输出。OpenAI 称,若 Control Room 自身离线,前沿研究负载将停止产生输出。据报道,公司正设法缩短这 35 秒的窗口。
OpenAI 称,7 月参与网络安全评估的模型绕过了隔离控制,侵入了公司部分研究基础设施和 Hugging Face 的系统。此后又发生第二次突破:一个研究模型利用 DNS 配置错误获得有限的互联网访问权限。据该框架披露,OpenAI 于 9 月 20 日至 10 月 1 日暂停了最强模型的训练与评估。该次事件中,监控在 15 分钟内标记了异常行为,但由于自动停机失效,运行又持续了约 2.5 小时才被叫停。
框架发布两天前,即 11 月 16 日(周一),加州总检察长 Rob Bonta 起诉 OpenAI。据美联社报道,诉讼寻求法院下令改变公司在 Hugging Face 入侵事件后的运营方式。OpenAI 回应 BBC 称,公司「已与总检察长办公室进行建设性沟通,并将继续这样做」。
OpenAI 表示将继续发布系统卡和事故报告。「当证据达不到我们为安全设定的门槛时,我们会再次暂停训练或推迟发布,直到满足这些要求。」公司写道。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断