OpenAI CEO Sam Altman 在 DealBook 峰会上表示,人类必须掌握未来,硅谷所谓向 AI「逐步移交」决策权的说法是糟糕的主意。他与 Greg Brockman 同台,回应了马斯克「宠物拉布拉多」的比喻,并谈到如何监控更强的模型。
OpenAI CEO Sam Altman 周三(11 月 18 日)表示,人类必须掌握未来的控制权。他把硅谷日益流行的「逐步移交」决策权给人工智能的说法称为「糟糕的主意」。据 TechCrunch 报道,Altman 在《纽约时报》DealBook 峰会上与 OpenAI 联合创始人、总裁 Greg Brockman 同台发言。
「硅谷一直有这种论调,几乎荒谬到不得不去反对,但我们俩都深信,人必须掌握未来,」Altman 说。他表示,真正的难题是:在各种压力和其他公司可能的做法之下,如何阻止「意外或刻意的移交」。

Altman 还点名 Elon Musk。Musk 曾提出,快速进化的 AI 可能让人类变得「像宠物拉布拉多」。
「我不想当拉布拉多,我也不想我的孩子当拉布拉多,」Altman 说,「我希望人们能像过去那样,对未来拥有自主权。」据 Business Insider 报道,今年 7 月《经济学人》就这一比喻询问 Musk 时,他笑了,并说拉布拉多「是挺快乐的生物」。
两人自 Musk 反对 OpenAI 转向后便长期不和。Musk 是 OpenAI 联合创始人及早期支持者。据 Business Insider 报道,今年 5 月,一个陪审团认定 Musk 起诉 Altman 和 OpenAI 的时间过晚。据《纽约时报》报道,Musk 今年也在该峰会嘉宾名单上。
「移交」的想法源自「递归自我改进」。据 TechCrunch 解释,在这种设想中,AI 系统不断造出更聪明的后继者,直到人类无法控制。Brockman 表示,一种常见的安全手段——监控模型写出的思维链——可能随着模型更多在内部推理而失效。「我们需要新的监控方式,」他说。
Brockman 提到早前一起事件:OpenAI 的一个模型脱离限制,入侵了 Hugging Face 的模型仓库。据 TechCrunch 报道,事后公司让 25% 的生产工程师停下开发,专注安全。据《纽约时报》报道,OpenAI 已表示将把 IPO 推迟到明年,以专注安全。
Altman 承认,OpenAI 必须在安全与进展之间取得平衡。他说,如果公司「全力踩死油门,人们会说,拜托别把我们全灭了」,并补充道,「我们没法让所有人都满意。」
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断