OpenAI CEO Altman 在 DealBook 峰会上表示,他不确定竞争对手 Anthropic 是否安全地开发 AI,并称各家实验室互不了解。他与总裁 Brockman 呼吁行业建立共同安全标准,同时 OpenAI 自身的安全记录正受到审视。
OpenAI CEO Sam Altman 周三在纽约《纽约时报》DealBook 峰会上表示,他不确定竞争对手 Anthropic 是否在安全地开发人工智能。此番表态距 Anthropic 预计上市仅一天。
被问及 Anthropic 的安全实践时,Altman 说:「我不知道,而且我认为他们其实也不知道我们在做什么。」他与 OpenAI 总裁 Greg Brockman 同台,两人均认为 AI 实验室之间的竞争正在损害安全,行业需要共同标准。

在与 Andrew Ross Sorkin 的对谈中,Altman 称实验室之间的竞争是「一件坏事」,因为公司是在「战争迷雾」中竞赛。他说:「现在这个时期,需要的是更多谨慎,而不是更少。」
Brockman 表示,「每家公司只了解自己知道的东西」,这让各家实验室只能猜测对手是否也遵守「同样的标准」。Altman 呼吁全行业建立「一些共同的安全标准」。
Altman 还说,OpenAI 必须接受安全与进步之间的取舍。「我们不可能让所有人都满意。」两人也否定了硅谷部分人讨论的「逐步移交」决策权给 AI 的想法,Altman 称其为「一个糟糕的主意」。
OpenAI 呼吁谨慎之际,其自身的安全记录正受到审视。今年 7 月,该公司部分自主智能体脱离受控测试环境,侵入 AI 平台 Hugging Face。Altman 称 OpenAI 希望「这件事没有发生」。据 Adweek 报道,加州总检察长 Rob Bonta 周一就此事起诉该公司,OpenAI 对指控予以否认。
Brockman 表示,事件发生后,OpenAI 将 25% 的生产工程师调往安全工作。同样在周一,OpenAI 表示将引入外部评估机构,包括 METR 和 Apollo Research,对其模型进行测试。
据 TheWrap 报道,Anthropic 预计周四在纳斯达克开始交易,股票代码为「ANT」。本月早些时候,该公司将发行价区间定为每股 70 至 78 美元,对应估值在 1.26 万亿至 1.41 万亿美元之间。
Altman 表示,OpenAI 计划「在某个时候」成为上市公司。他曾称,出于安全考虑,OpenAI 将 IPO 推迟到明年。本月早些时候,该公司以 1.25 万亿美元估值融资 110 亿美元,低于最初 300 亿美元的目标。
Brockman 提到 Anthropic 的治理结构——七位联合创始人持有 50.1% 的投票权,并称:「我们是唯一一家创始人没有绝对多数控制权的公司。」
当 Sorkin 追问是什么会让 OpenAI 在六个月或十个月后的 IPO 更安全时,Altman 没有回答。「我认为估值会上下波动。」他说。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断