OpenAI呼吁建立国家级AI安全法规并支持加州多项立法

OpenAI呼吁抓住政策窗口期，推进AI强制安全监管

AI 能力正在迈入全新阶段，这也对 AI 政策提出了全新要求。单靠任何一家公司、一个行业或一国政府，都无法独立应对这一挑战。比起追求完美的政策构想，当下更需要切实有效的行动。

OpenAI 正在从四个维度推动治理实践：

推动国家级强制 AI 安全规范：与美国国会合作，建立基于模型能力的国家级强制性 AI 安全监管。
支持各州立法以保持推进动能：在联邦法案出台前，支持健全 AI 安全生态的州级立法。OpenAI 已宣布支持加利福尼亚州的四项关键法案。
推进行业自律标准：与其他前沿实验室合作，探索前沿 AI 的行业标准，无论是否有政府支持均先行启动自愿性举措。
构建全球协同标准：倡导建立通用的国际框架，涵盖能力评估、风险管理、人类控制保留，以及在必要时放缓或暂停研发的标准——哪怕这意味着延缓模型能力的提升。

OpenAI 首席科学家 Jakub Pachocki 此前曾撰文指出，机器智能的飞速演进以及递归自我改进的潜在可能，要求业界保持“极度谨慎”。OpenAI 正在持续探索对齐与监控的技术方案，构建防御体系，并在必要时放缓研发节奏。但这绝非单一实验室的技术工作所能解决，行业亟需关于何时该减速甚至叫停研发的通用准则。

先进 AI 有望加速新药研发、巩固关键基础设施，并破解困扰人类数代人的科学难题。但赋予模型强大能力的特性本身也伴随着风险，而且这些能力不会仅局限在少数前沿实验室内部。全球范围内的模型（包括开源模型）正迅速逼近当前的前沿水准。

正如 Greg Brockman 所描述的“防御者窗口”——在强大的进攻性能力扩散之前，防御者借助前沿 AI 强化关键系统的时间非常有限。政策制定者同样面临着一个正在关闭的窗口期：必须在模型能力彻底超越治理机构的管辖能力之前，建立起长效防护机制。

应对递归自我改进的挑战

目前，完全自主的“递归自我改进”（即 AI 系统自主推动下一代更强大 AI 的研发）尚未成为现实。OpenAI 明确表示，在无法确保安全可控之前，不应盲目推进该方向。

但 AI 已经在加速下一代模型研发和对齐工作中的部分环节。OpenAI 的最新研究表明，AI 智能体已能完成资深研究员需耗费数天的工作。这种加速同样必须被引导至安全领域，即研发能够协助人类推进深度学习与对齐的自动化 AI 研究员，让每一代模型都比上一代更安全、更易受控。

各国政府应制定统一的衡量标准，确保人类保留实质控制权。如果无法在确保安全的前提下提升模型能力，就必须优先保障安全。

推动国会出台国家级强制安全法规

AI 加速自身演进的前景，意味着单纯依靠企业的自愿承诺已经不够。美国亟需基于能力评估的联邦级强制法规，并能够随技术发展动态调整。

OpenAI 在此前发布的前沿 AI 民主治理蓝图中提出了一套可行的联邦框架，包括独立评估要求、更严格的网络安全防护、明确的事件报告机制以及对递归自我改进进展的跟踪机制。

这一国家框架应当界定精准，主要针对少数拥有雄厚资源、正在研发最强系统的前沿实验室，而不应波及初创团队、小型开发者或远离前沿的研究人员。此外，前沿安全政策不应演变为对开源权重的变相打压。正如在《开源权重与美国 AI 领导力》公开信中所主张的，开源和闭源生态互为补充，监管框架应在把控风险的同时避免削弱市场竞争。