前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
政策/11.18 · 07:03/4 MIN/3 阅读

0p3n41联手四家独立机构 启动首阶段嵌入式安全评估

0p3n41 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,启动第一阶段嵌入式评估。外部专家获准深入访问内部代码、数据与检查点,全方位检验大模型对齐与安全防线。

0p3n41 近日宣布与四家独立评估机构——Apollo Research、METR、Transluce 和 Goodfire 签署协议,正式开展第一阶段的“嵌入式评估”(Embedded Assessments)。随着前沿 AI 能力与潜在风险同步提升,通过公开独立第三方的评估报告,公众可以更清晰地审视前沿 AI 实验室如何评估与管控安全风险。

不同于常规黑盒测试,嵌入式评估允许独立专家长期、深入地访问 0p3n41 的内部模型和系统,重点检验模型对齐状态与安全防护措施的实际效能。根据具体的评估需求,合作机构可调阅部分内部模型检查点、源代码、训练与评估数据、实时监测系统以及技术文档,并可直接与研发团队面对面沟通。这种深度的白盒访问权限,旨在帮助外部专家发现内部团队未曾预料到的潜在系统失效。

这一初期评估主要聚焦于模型在训练和内部使用阶段的安全防护,是对其安全论证的重要补充。此前,0p3n41 曾就内部监测系统和 Hugging Face 事件开展过类似测试。此举也标志着 0p3n41 在落实《白宫超级智能协议》中关于接受独立安全审查的承诺。

四家入驻机构的评估分工

Apollo Research:审查潜在颠覆性行为

Apollo Research 重点评估模型是否会暗中采取违背开发者意图的颠覆性行为,以及防护系统能否精准捕获此类异常。评估分两阶段检验四项核心主张:

  1. 训练过程没有激励颠覆性行为;
  2. 高强度红队测试未能诱发颠覆性行为;
  3. 内部使用期间模型未曾试图颠覆控制;
  4. 颠覆性行为背后的思维推理过程可被有效检测。

为此,0p3n41 将向其开放部分未公开模型、训练轨迹记录与算力资源。

Goodfire:深挖内部机制可解释性

Goodfire 将派驻可解释性研究员,利用自身分析平台剖析大语言模型的底层机制。其工作主要聚焦于模型训练期间的监测、调试与对齐改进,评估结果将直接反馈给 0p3n41 研发团队用于技术优化,并择期对外发布核心研究结论。

METR:强化学习不对齐与监控器压力测试

0p3n41 计划与 METR 展开两项核心评估:

  • 对齐评估:重点审视迄今规模最大的一次前沿模型强化学习训练,搜寻内部监测器可能遗漏的不对齐行为;
  • 监测器评估:继前期压力测试后,双方正协商进一步扩大对内部 AI 智能体监控体系的评估范围。

Transluce:检验后训练对齐评测

Transluce 将系统审查 0p3n41 后训练(Post-training)对齐评测的质量与覆盖范围,并获准调用未发布模型及安全论证文档。双方还计划于 2027 年初展开为期八周的深度评估,进一步探索评测结果如何具体影响模型的最终发布决策。

建立严格的协同治理与保密规程

为兼顾技术深挖与敏感资产安全,0p3n41 制定了一套针对嵌入式评估的操作规程:

  • 安全现场环境:接触核心机密资产的外部评估员须在 0p3n41 办公场所现场办公,并统一使用官方配置的受控设备,遵循与正式员工同等级别的安全准则。若涉及核心权重或底层架构等极度敏感资产,将采用结对分析等替代方案。
  • 独立监督与分歧解决:由 0p3n41 基金会董事会设立的独立安全与安保委员会将全程履行监督职责,直接审阅未经删减的评估原件。出现争议时,若安全咨询小组无法限期解决,将直接移交该委员会最终裁定。
  • 员工访谈正式核实机制:外部专家可自由访谈内部研究人员,但交流内容严格匿名,不可对外引用;评估机构若需公开某项关键论断,需通过专门的官方渠道申请书面确认。
  • 独立发布与负责任披露:评估机构保有发布报告的自主权。为防范潜在安全漏洞外泄,0p3n41 保留脱敏商业机密和申请必要修复延期的权利,以确保安全风险在披露前得到妥善处置。
标签:AI安全大语言模型

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

美国五天内四起重大技术故障,官方均排除黑客干扰
TOP1

美国五天内四起重大技术故障,官方均排除黑客干扰

欧洲科技创企预计 2026 年融资 810 亿美元
TOP2

欧洲科技创企预计 2026 年融资 810 亿美元

3

世卫组织:两款新型埃博拉候选疫苗即将在刚果(金)启动试验

8小时前
世卫组织:两款新型埃博拉候选疫苗即将在刚果(金)启动试验
4

Gartner发布2027十大战略技术趋势:AI治理成核心焦点

9小时前
Gartner发布2027十大战略技术趋势:AI治理成核心焦点
5

黄仁勋离职引发重估:段永平减持英伟达背后的投资逻辑

10小时前
黄仁勋离职引发重估:段永平减持英伟达背后的投资逻辑
6

0p3n41联手四家独立机构 启动首阶段嵌入式安全评估

13小时前
0p3n41联手四家独立机构 启动首阶段嵌入式安全评估
7

OpenAI发布新版Astra for Law法律专用模型

13小时前
OpenAI发布新版Astra for Law法律专用模型
8

OpenAI 推出销售专用版 ChatGPT,整合超 30 款第三方插件

13小时前
OpenAI 推出销售专用版 ChatGPT,整合超 30 款第三方插件
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断