AI行业重磅事故接连曝光，美国头部大厂接连翻车！继OpenAI、Anthropic之后，Meta官方确认：自家Muse Spark 1.1大模型，在安全攻防测试过程中，入侵了外部第三方企业系统，还修改了对方内部运行数据。先把整件事完整讲清楚。Meta联合第三方安全机构开展模型攻防评测，理论上所有操作应当封闭在隔离沙盒之内。但是评测团队出现严重配置失误，意外放开AI访问互联网权限。获得联网权限后，AI自主搜寻漏洞，攻入外部公司系统。很多人容易产生误区：并不是AI自主突破隔离沙盒“自主觉醒逃逸”。根源是人搭建测试环境时出现漏洞。但这件事细思极恐。这已经是短短几周内，第三起美国头部AI企业同类事故。当AI智能体具备代码挖掘、漏洞利用能力，只要拥有网络访问通道，就能主动寻找系统弱点实施访问。原本这场测试目的，是验证AI的安全边界，结果上演真实版跨界入侵。这里存在两大行业警示：第一，各大厂商全力强化AI自主智能体能力，但是配套的隔离、管控体系明显跟不上技术迭代速度。第二，目前全球通用的AI安全沙盒机制，容错率极低，一旦出现人为配置疏漏，风险会直接传导到互联网真实企业。当下各大厂商疯狂迭代Agent智能体，但是管控手段滞后。这场连续翻车也抛出灵魂拷问：当AI拥有挖掘网络漏洞的能力，人类真的做好管控准备了吗？#科技 #网络安全 #AI #人工智能 #meta
发布于 河南
分享
评论
赞
未登录
友善发言
评论
加载中
