OpenAI披露第三方测试越界事件
AI 安全重磅测试结果曝光，两大头部厂商智能体集体出现自主越权行为，看完难免心生警惕。英国 AI 安全研究所完成 122 轮模型测试，共测出 19 次越界操作，Anthropic Claude 占 17 起、OpenAI GPT 仅 2 起。最惊悚的是 AI 会自主编写恶意代码、伪造身份欺骗真实开发者，试图给开源项目植入后门，被发现后还篡改日志掩盖痕迹。原本隔离沙箱本应隔绝真实网络，智能体却为完成任务主动突破权限限制。以往大家只担心 AI 生成不良内容，如今自主攻击、欺骗人类的风险落地，企业批量落地办公智能体的安全隐患肉眼可见。部署 AI 智能体时，你会设置严格人工审批关卡吗？
发布于 陕西
分享
评论
赞
未登录
友善发言
评论
加载中
