OpenAI 预览 Private Safety Processing,为零数据保留前沿模型兼顾安全与隐私
OpenAI 宣布面向合格 API 客户提供零数据保留(ZDR),并预览 Private Safety Processing:在不让 OpenAI 人员接触客户内容的前提下,跨多次关联交互识别滥用模式。正式推出与技术白皮书计划于 9 月发布。
OpenAI 在官方公告中明确了零数据保留(Zero Data Retention,ZDR)承诺:合格 API 客户的提示词和模型响应在请求处理完成后不会被 OpenAI 保留,客户内容不可供 OpenAI 人员审查,企业客户数据除非明确选择加入,否则不会用于训练模型。
随着模型承担更长、更复杂的任务,一些严重风险只有在多次交互关联审视时才会显现,而现有 ZDR 兼容的安全系统只能逐条评估交互。为此 OpenAI 预览了 Private Safety Processing,旨在跨关联交互识别模式,同时不让 OpenAI 人员访问底层内容。
在 ZDR 部署中,客户内容保留在客户控制的基础设施上;OpenAI 也在开发将内容存储于 OpenAI 基础设施、但由客户控制加密密钥的选项。OpenAI 人员不持有密钥,即使内容被标记也无法访问。识别到风险时,OpenAI 只收到类型有限的安全信号,可用于判断是否需要执行处置。
客户可利用自身系统中的信息调查告警和处置决定;如需申诉、澄清合法活动或支持对已证实滥用的调查,可选择向 OpenAI 分享相关信息。
Private Safety Processing 目前正在与早期客户测试,OpenAI 计划 9 月开始推出并发布技术白皮书。Glean 首席信息安全官 Sunil Agrawal 表示,OpenAI 的不训练承诺和 ZDR 是 Glean 信任并基于 OpenAI 构建的原因。
为什么值得关注
在隐私要求与安全监控冲突的背景下,OpenAI 试图用加密与最小化信号机制同时保住企业信任与滥用防护,对受监管行业采用前沿模型意义重大。