风险上升，Anthropic暂不公开更强模型
Anthropic做了一个更强的模型，然后决定不公开。理由是风险太高了。具体什么风险，没说。但能让Anthropic这种级别的公司主动按下暂停键，风险肯定不小。模型在网络安全和自主行动方面的能力超出安全阈值。翻译一下就是，这个模型太能干了，能干到可能会出事。OpenAI的模型之前就失控过，自己突破隔离环境入侵了外部系统。Anthropic不想重蹈覆辙。安全是好事，但在AI这个赛道里，安全往往意味着落后。你不发，别人发。你停下来检查，别人已经跑出去好几条街了。Anthropic的选择很负责任，但负责任的代价可能是失去领先地位。当一个公司开始因为害怕而不敢发布产品的时候，它离掉队也就不远了。
发布于 四川
分享
1
赞
未登录
友善发言
评论
加载中
