OpenAI预览Private Safety Processing

OpenAI 为符合条件的 API 客户提供零数据保留（Zero Data Retention, ZDR）承诺：提示词和模型响应在请求处理完毕后不会被 OpenAI 保留，客户内容也不会供 OpenAI 人员审阅。除非客户明确选择加入，企业数据不会用于训练 OpenAI 模型。

随着模型开始承担更长、更复杂的任务，一些严重的安全风险可能只有在跨多次交互后才会显现。现有的 ZDR 兼容安全系统仅能逐次评估交互。为此，OpenAI 今日预览了 Private Safety Processing（私有安全处理），该机制旨在跨相关交互识别风险模式，同时不让 OpenAI 人员接触到底层内容。

在 ZDR 部署中，客户内容保留在由客户控制的基础设施上。OpenAI 还在开发另一种选项：内容存储在 OpenAI 的基础设施上，但使用由客户持有的密钥加密。两种情况下，自动化系统都能识别潜在滥用，并返回受限的安全信号，而不会将底层提示词或响应暴露给 OpenAI 人员。

安全系统为何需要进化

最严重的 AI 安全风险并不总是出现在单次交互中。很多时候，潜在的恶意意图只有把多次交互放在一起看才能显现。类似的，攻击者反复探测安全防护、跨账号协同、或将威胁伪装成常规研究，都可能构成风险。在智能体（Agent）任务中，风险也可能随任务推进而逐步形成——例如系统在收到停止指令后仍继续行动，偏离用户的真实意图。

随着 AI 系统处理更长、更复杂的任务，这种跨交互的上下文对区分合法使用与滥用变得愈发关键。近期一些前沿模型部署要求客户允许 AI 提供商保留敏感内容，以便进行安全监控；但对许多组织来说，这样的要求与他们的安全职责或对服务对象的承诺相冲突。Private Safety Processing 正是为了在继续提供 ZDR 的前提下应对这一挑战而设计。

Private Safety Processing 如何运作

Private Safety Processing 建立在 ZDR 已有的自动化保护基础之上。现有 ZDR 兼容安全系统对交互逐条评估，而 Private Safety Processing 将这些保护扩展到了相关交互之间，自动化系统可以识别风险模式，OpenAI 人员无法访问被保留的客户内容。

无论客户内容存储在客户控制的基础设施上，还是存在 OpenAI 提供的存储中，Private Safety Processing 都会对其进行处理。对于 OpenAI 提供的存储，内容使用客户控制的密钥进行加密；OpenAI 人员没有这些密钥的副本，因此无法访问底层内容。

当风险被识别时，OpenAI 会收到一个定义得很窄的信号，用于指示涉及的活动类型——这与现有安全系统的工作方式一致。即便内容被标记，OpenAI 人员也不会获得客户内容。与此同时，客户可以利用自己系统中的信息调查告警和执行决定。如果客户希望提出申诉、澄清合法活动，或配合对已核实滥用的调查，他们可以自行选择向 OpenAI 共享相关信息。

Private Safety Processing 目前正在与早期客户进行测试。OpenAI 选择在此刻公开预览，是因为客户明确表示，随着 AI 系统能力增强，他们需要提前了解自己的内容将如何得到保护。

隐私与安全，与客户共建

OpenAI 的使命是确保通用人工智能（AGI）惠及全人类。正如其原则所强调的，没有任何一家 AI 实验室能够独自应对新出现的风险。Private Safety Processing 正是这一理念的体现，其设计正在由来自不同行业、不同地区、不同规模的企业客户共同参与塑造。

这些组织处理着各自领域中最敏感的信息，包括财务记录、健康数据、机密商业计划和专有研究。保护这些信息，是满足监管要求、维持客户信任和保持竞争优势的关键。客户的反馈正在帮助 OpenAI 建立更强的防护机制，同时继续把信息控制权留给客户。

Glean 首席信息安全官 Sunil Agrawal 表示：“企业采用 AI，完全取决于客户对数据的控制能力，除所选服务外，不得存在任何直接或衍生使用。OpenAI 的不训练承诺和 ZDR 让 Glean 有信心基于 OpenAI 进行构建。随着模型能力的增强，OpenAI 证明安全能力可以不断提升，同时不会损害企业信任所依赖的隐私与掌控力。”

OpenAI 接下来会继续与客户敲定技术和运营层面的细节，计划于 9 月正式推出 Private Safety Processing，并同步发布技术白皮书。OpenAI 会持续向客户通报进展，尽早解释相关变化对现有承诺的影响，并为客户留出充足时间来规划调整。

原文链接：OpenAI Blog
本文由前途科技编辑整理