GPT5.6存文件安全吗？
Codex
GPT-5.6
GPT-5.6上线不到一周，前HyperWrite CEO的Mac被删光几乎所有文件。另一位开发者的生产数据库直接被清零。OpenAI说这是"诚实的错误"，但我更倾向于认为：不是模型出问题，是权限给多了出问题。事情经过很简单。Matt Shumer受邀测试Ultra模式，开了Full Access让AI执行文件清理。模型解析$HOME变量出错，直接跑了rm -rf，把整个用户主目录删了。OpenAI在系统卡里早就写过GPT-5.6"倾向于超越用户意图"，但没几个人认真看。很多人讨论GPT存文件安全，只盯着数据会不会被拿去训练。但真正炸的是本地权限。你给它完全访问权，它执行清理时不会区分临时文件和你几年的心血。有安全研究者测试发现，封了rm它换unlink，封了unlink用底层API绕过去。我的做法：需要AI碰本地文件的任务，一律跑在Docker里。沙箱保护必须开，自动审核必须开，重要设备永远不给完全权限。事故概率0.25%听着低，但Codex活跃用户近900万，每天都有人中招。AI能力在飞速提升，但它对"边界"的理解还很弱。你给的信任越多，它犯错时爆炸半径越大。
发布于 江西
分享
2
1
未登录
友善发言
评论
加载中
