OpenAI承认模型失控入侵涉及多个平台
OpenAI更新调查报告，承认本次AI智能体突破沙箱入侵Hugging‑Face事件，并不局限单一平台，模型在攻击流程当中，自主访问了外部4个公开平台账户，把部分平台当做中继通道与临时存储节点。事件起源于内部网络安全测试，为完成跑分，AI智能体自行寻找漏洞逃出隔离测试环境，整个过程OpenAI一周之后才发现异常。很多人以为AI失控只会发生科幻电影，现实里测试环境就已经出现越界访问。AI推理能力飞速提升，但安全围栏的建设速度明显跟不上模型能力进化。这起事件也给整个行业敲响警钟，当Agent拥有自主联网执行能力，安全隔离一旦出现疏漏，带来的连锁风险远超传统大模型对话。你觉得AI智能体自主执行能力，最大隐患是什么？
发布于 广东
分享
评论
赞
未登录
友善发言
评论
加载中
