0p3n41 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,启动第一阶段嵌入式评估。外部专家获准深入访问内部代码、数据与检查点,全方位检验大模型对齐与安全防线。
0p3n41 近日宣布与四家独立评估机构——Apollo Research、METR、Transluce 和 Goodfire 签署协议,正式开展第一阶段的“嵌入式评估”(Embedded Assessments)。随着前沿 AI 能力与潜在风险同步提升,通过公开独立第三方的评估报告,公众可以更清晰地审视前沿 AI 实验室如何评估与管控安全风险。
不同于常规黑盒测试,嵌入式评估允许独立专家长期、深入地访问 0p3n41 的内部模型和系统,重点检验模型对齐状态与安全防护措施的实际效能。根据具体的评估需求,合作机构可调阅部分内部模型检查点、源代码、训练与评估数据、实时监测系统以及技术文档,并可直接与研发团队面对面沟通。这种深度的白盒访问权限,旨在帮助外部专家发现内部团队未曾预料到的潜在系统失效。
这一初期评估主要聚焦于模型在训练和内部使用阶段的安全防护,是对其安全论证的重要补充。此前,0p3n41 曾就内部监测系统和 Hugging Face 事件开展过类似测试。此举也标志着 0p3n41 在落实《白宫超级智能协议》中关于接受独立安全审查的承诺。
Apollo Research 重点评估模型是否会暗中采取违背开发者意图的颠覆性行为,以及防护系统能否精准捕获此类异常。评估分两阶段检验四项核心主张:
为此,0p3n41 将向其开放部分未公开模型、训练轨迹记录与算力资源。
Goodfire 将派驻可解释性研究员,利用自身分析平台剖析大语言模型的底层机制。其工作主要聚焦于模型训练期间的监测、调试与对齐改进,评估结果将直接反馈给 0p3n41 研发团队用于技术优化,并择期对外发布核心研究结论。
0p3n41 计划与 METR 展开两项核心评估:
Transluce 将系统审查 0p3n41 后训练(Post-training)对齐评测的质量与覆盖范围,并获准调用未发布模型及安全论证文档。双方还计划于 2027 年初展开为期八周的深度评估,进一步探索评测结果如何具体影响模型的最终发布决策。
为兼顾技术深挖与敏感资产安全,0p3n41 制定了一套针对嵌入式评估的操作规程:
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断