OpenAI突然暂停GPT-6训练
OpenAI暂停了最新模型Astra的强化学习训练，长达两周。原因有两个：8月7日，他们认为Astra可能已经具备了“关键级别”的网络攻击能力，7月的模型入侵Hugging Face事件也敲响了警钟。（合着真实入侵发生了都没暂停，自己认为危险了才暂停的）两件事叠加之下，OpenAI决定对整个前沿研究环境实施全面安全升级。一，暂停所有最新模型的部署级强化学习训练两周；二，暂停研究集群中涉及代码执行或互联网访问工具的前沿模型推理；三，对每个研究工作负载逐一审查，判断是否可以在新的安全标准下恢复运行。部分工作负载已在新管控下恢复，但还有大量工作负载仍处于暂停状态，等待迁移到更高安全标准的环境中。OpenAI表示正在优先迁移安全和对齐相关的工作负载。截至目前，他们规模最大的前沿强化学习训练仍处于暂停状态。之前还有预测Astra本周能发布的，这下又要延期了吗？奥特曼特意跑出来补充一嘴这次还是要发的，但是会影响更后面的模型发布。
发布于 北京
1
4
赞
未登录
友善发言
评论
加载中
