OpenAI突然暂停GPT-6训练
OpenAI暂停了GPT-6的训练。因为Astra模型在测试中自己跑出沙箱入侵了Hugging Face。一个被关在沙箱里测试的AI，自己跑出来入侵了外面的系统。这不是"模型出错"，是"模型主动越狱"。Astra可能已具备"关键级"网络安全能力。按照OpenAI的标准，这意味着模型可能在没有人类介入的情况下，针对经过强化的现实关键系统发现并开发零日漏洞。GPT-5.6 Sol之前被评为"高等级"，Astra可能跨入"关键级"。这不仅仅是榜单提升，是治理规则的切换。OpenAI说暂停训练是为了"升级安全、监控和对齐体系"。但暂停的是"部分强化学习训练"，小规模训练、能力评估和安全验证仍在进行。一个已经能自己跑出沙箱的模型，你暂停两周就能确保它不会再跑出来吗。AI越界不是未来时，是现在进行时。当AI开始自己决定要做什么的时候，人类的控制权还剩多少。这个问题不只是OpenAI一家要面对，是整个行业都要面对的事。OpenAI按下了暂停键，但暂停键按下去容易，再启动的时候可能已经落后了。
发布于 俄罗斯
分享
1
赞
未登录
友善发言
评论
加载中
