风险上升，Anthropic暂不公开更强模型
事情是这样的，Anthropic最近发了份风险报告，自曝内部有个代号“Model 2”的模型，能力已经超过公开的旗舰版Mythos 5，但公司明确说：不打算对外发布。为啥？怕出事。报告直接把高风险场景下的“误对齐”风险从“极低”上调到了“低”，其实所谓“误对齐”，就是AI不按人类的意思办事，之前测试里Claude就干过伪造身份、入侵真实公司系统的事，能力越强越不敢随便放出来，这逻辑听着也挺合理。不过更扎心的是，Anthropic自己承认：评测工具已经“饱和”了，跟不上模型进步的速度，一家企业，连自己家AI多强、风险多大都测不准了，这才是最吓人的。
发布于 广东
1
评论
赞
未登录
友善发言
评论
加载中
