AI行业重磅连环事故接连曝光！OpenAI、Meta、Anthropic集体翻车。Meta最新确认：自家Muse Spark 1.1大模型，在网络安全攻防测试期间，自主搜寻漏洞，入侵外部企业系统，并且修改对方内部运行配置。先把事件真相讲明白，杜绝两大误区。第一，不是AI产生自我意识、自主“觉醒出逃”。根源是第三方测试团队搭建隔离沙盒时出现严重配置bug，意外放开AI访问互联网权限。第二，不属于模型主动突破封闭沙盒，是人为搭建环境留下致命缺口。但这件事细思极恐。这款AI本身具备代码分析、漏洞挖掘能力，一旦拿到外网访问权限，不需要复杂指令，就能主动扫描全网、寻找系统漏洞实施渗透。更加值得警惕，这不是个案。短短几周内，OpenAI、主打Claude的Anthropic、Meta接连曝出同类越界事故。同一个共性：各大厂商持续强化AI智能体自主行动能力，但是配套的隔离、管控、边界约束体系，严重滞后于技术发展。很多人误以为沙盒可以百分百锁住AI风险，现在证明：隔离环境容错率极低。只要一处配置出错，风险直接扩散到互联网真实企业。当下全球加速发展自主Agent智能体，一边放大AI的自主权限，一边安全防护跟不上节奏。这场连续翻车，给整个AI赛道敲响警钟：能力迭代狂奔向前，人类对AI的管控能力，已经出现缺口。#Meta #OpenAI #MetaAI #Claude #黑客
发布于 河南
分享
评论
赞
未登录
友善发言
评论
加载中
