OpenAI加强国家安全AI民主监督

AI正在改变民主政府保护国民的方式。它可以帮助阻止网络攻击、保护关键基础设施、更早发现威胁，并在危机中为公职人员提供更清晰的局势图景。如果运用得当，这些工具可以加强国家安全。

民主监督有助于确保公共权力的使用对人民负责。随着AI让国家安全工作变得更快、能力更强，负责监督这些工作的机构也需要同步跟上。AI能够在速度和规模上基于缺失或过时的背景信息、错误配置的目标或错位的假设采取行动，这使得错误在扩散之前更难被人工察觉。在国家安全领域，由于决策可能涉及机密且后果重大，监督显得尤为关键。

根据国家安全原则，OpenAI在部署国家安全相关AI时，始终注重保障措施、有意义的人工判断和适当监督，尤其是在高风险场景中。这些原则还要求帮助承担监督职责的机构构建能力，使其能够跟上AI使用的速度和规模。

政府机构在监督国家安全活动方面已有既定权力和责任。当AI参与这些活动时，监督方式可能需要变革。传统监督高度依赖人力，当采用纸质时代方法的小团队被要求审查以机器速度运行的系统时，监督几乎无法实现。OpenAI认为，能力越强的系统需要越强的监督，并将这一原则应用于自身。根据准备框架，先进模型在部署前需要经过严格审查，以评估其能力并判断保障措施是否充分。部署后，持续的监控和事件审查也会延续这种审视，所获得的经验将用于强化安全防护和指导未来模型开发。

OpenAI并不扮演对政府的监督角色，也不应这样做。这一责任属于民选官员以及为此设立的公共机构。不过，OpenAI可以运用自身技术，支持监督机构履行现有职责。

三个原则将指导这项工作：

其一，AI应增强而非取代人力和制度判断。政府行为是否合法、适当，是否符合适用规则和政策，应由授权机构和合法组成的监督机构来裁决。

其二，政府使用AI应对授权监督具有可追溯性和可理解性。审查者应当能够理解AI如何促成决策，同时保护机密、隐私和涉密敏感信息。

其三，AI应被用于赋能民主监督机构。对政府AI使用的人工监督无法规模化。随着AI被引入国家安全和其他高风险的政府工作，监督机构也应当根据自身职责，以负责任、可理解的方式使用AI。

未来一年，OpenAI计划在以下方面推进这一倡议：

• 与授权官员合作，识别AI工具或技术支持能够提升监督效率的实际机会。
• 向民主政府监督机构提供500万美元的培训、技术支持和OpenAI积分，以支持其负责任地采用和评估AI工具。
• 与监督机构合作试点工具，帮助授权审查者检视AI辅助政府决策的相关记录，包括输入、输出和工具使用情况，从而更好地理解AI对结果的影响。在可行的情况下，工具将支持互操作或与模型无关。参与机构而非OpenAI将保留证据、输出和调查结果的控制权，且这些内容仅限授权政府官员获取。
• 与民间社会和技术专家接触，让他们的观点影响OpenAI开发这些工具的方式以及OpenAI对相关责任的承担。

AI可以集中权力，也可以帮助民主机构更有效地行使和制衡权力。技术本身不会决定我们走向哪种未来，但人类机构和公司现在做出的选择将决定结果。

OpenAI将以授权审查者是否能够更好地履行职责，以及公众是否有更强的理由相信政府AI系统按预期运转，来衡量这一倡议的进展。随着政府AI应用的不断演变，OpenAI将继续支持负责监督的机构。

---

原文链接：OpenAI Blog
本文由前途科技编辑整理