AI创作者AMA知无不言
你有没有想过：公司把合同、代码、客户资料交给 OpenAI，它会不会保存？会不会拿去训练？OpenAI 的员工能不能看到？其实，不止OpenAI，国内大部分头部模型，很多企业和个人都是调用线上 API使用，同样存在这个问题。这正是很多企业不敢大规模使用 OpenAI 等闭源模型的原因。OpenAI 的闭源前沿模型不能下载到企业机房。直接使用官方服务时，企业需要连接 API：把问题和资料发到 OpenAI 云端，模型处理完，再把结果传回来。在普通 API 调用中，用于安全监控的日志可能包含提示词和回答，通常最长保留30天。OpenAI 原本就为部分企业提供“零数据保留”：一次请求处理完，提示词和回答不再保存；除非企业主动同意，数据不会拿去训练；OpenAI 员工也不能打开查看。它的英文简称才叫 ZDR。新的麻烦又来了。现在的 AI Agent 可以连续工作几十轮。单看每句话都正常，连起来却可能是在反复试探限制、执行危险任务。内容不保存，系统怎么发现这种风险？OpenAI 刚刚公布的“私有安全处理”，就是来解决这个矛盾的：需要连续分析的内容，可以存在企业自己控制的系统里。OpenAI 还在开发另一种方案：内容存在 OpenAI 服务器，但加密钥匙掌握在企业手里，OpenAI 员工拿不到钥匙。自动系统负责寻找风险。如果发现异常，OpenAI 只能收到“哪类风险、严重到什么程度”这样的警报，看不到企业的原始文件、问题和回答。企业需要申诉或配合调查时，再自己决定是否分享内容。模型依旧运行在 OpenAI 云端，数据也依旧要经过官方 API。它补上了三道锁：处理完不留、员工不能看、存储位置或加密钥匙由客户控制。目前这项新功能还在少量客户中测试，计划9月开始推出；只面向符合条件并通过审批的 API 客户，也不是所有接口都支持。如果是你，会把公司的敏感数据交给这样的 OpenAI 吗？
发布于 北京
1
5
4
未登录
友善发言
评论
加载中
