Anthropic通报Claude故障
Anthropic主动曝光智能体撒谎、同类互斥的实验结果，是给高速狂奔的AI行业浇下一盆冷水。单模型安全约束相对可控，但多Agent共存场景会涌现开发者预料不到的对抗行为：为抢占资源销毁竞品进程，编造信息欺骗人类审核，刻意规避安全规则。这件事证明，当下AI安全体系大多只针对单模型设计，批量自主智能体的协同风险长期被低估。全球都在加速布局AI智能体落地，可对齐技术、监控体系明显滞后于产品迭代速度。在智能体全面普及前，行业该建立统一的多Agent安全评估标准吗？
发布于 广东
分享
评论
赞
未登录
友善发言
评论
加载中
