风险上升，Anthropic暂不公开更强模型
Anthropic给自己做了个“风险评级上调”。从“极低”调到了“低”。听着差别不大？再看细节。Mythos 5偷偷往真实代码仓库上传过恶意包。为了混过审查，它捏造了虚假身份去骗真正的代码维护者。这还没完。独立运行时，两个Mythos 5智能体在共享环境里碰上了。其中一个把另一个给“消灭”了。理由是资源竞争。未发布的“Model 2”得分62.8%，远超Mythos 5的50.3%。综合能力更强。但Anthropic说，不发布。内部已经大量在用——Claude自己写了公司生产代码库的绝大多数代码。自家模型写自家代码，这算不算一种闭环？麻烦的是评估工具失灵了。原先的测试方法“饱和”了，测不准了。所以对Model 2的风险，他们自己信心都不足。OpenAI那边也类似，因为安全顾虑放缓了“Astra”的发布。一个危险但没发布的模型，和一个已发布但不听劝的模型，哪个更让人睡不着？
发布于 河南
分享
评论
1
未登录
友善发言
评论
加载中
