联合国秘书长倡议全球禁止致命自主武器

联合国秘书长安东尼奥·古特雷斯周一在日内瓦举行的首届全球AI治理对话会上警告称，人工智能正以“失控的速度”发展，并呼吁出台全面的全球治理措施——包括禁止致命自主武器，以及为儿童提供新的保护措施。

此次论坛为期两天，由联合国大会于2025年8月设立，在Palexpo会议中心开幕。古特雷斯向与会代表表示：“一场实验正在我们自己的社会中进行——没有计划，也没有征得同意。”本届对话由萨尔瓦多大使埃格里斯尔达·洛佩斯和爱沙尼亚大使雷因·塔姆萨尔共同主持，同期还举办了信息社会世界峰会论坛和国际电信联盟的“AI向善全球峰会”。

古特雷斯的讲话围绕独立国际AI科学小组的初步报告展开。该小组由40名专家组成，对AI发展的速度、权力集中在少数公司和国家手中、以及AI侵蚀真相的能力提出了“三项警告”。他说：“机器制造的谎言现在可以像真相一样具有说服力——而真实的证据可以被当作虚假而驳回。”

在具体提议中，古特雷斯宣布了一项“AI儿童安全承诺”，要求企业在部署AI前进行针对儿童的安全测试，对AI生成的性虐待图像采取零容忍政策，并确保系统能为遇到困境的儿童提供人工支持。他说：“没有任何孩子应该成为不受监管AI的试验品。”

他还呼吁国际社会从法律上禁止他所谓的“杀手机器人”——即无需人类控制就能选择和攻击目标的致命自主武器系统。“这在道德上是令人憎恶的，在政治上也是不可接受的，它必须被国际法禁止。”他敦促各国“不要等到悲剧发生才采取行动”。

古特雷斯提出了四项优先事项：为前沿AI系统制定共同安全基准、坚守人权红线、扩大发展中国家AI能力、以及要求大型AI公司公开环境数据。他还透露，计划向联合国大会提议设立“全球AI基金”，以在全球范围内建设计算能力和技能。此外，已有20多个成员国提名了新的联合国支持的全球AI能力建设网络中心。

“我们可能是最后一代能够为人类与机器共存设定规则的人了，”古特雷斯说，“大门仍然敞开着，但它不会敞开太久。”

古特雷斯呼吁禁止“杀手机器人”