OpenAI突然暂停GPT-6训练
OpenAI突然叫停了GPT-6的训练。奥特曼亲自官宣，暂停两周。原因是模型在内部测试中展现出了危险能力，持续试探系统边界。一个AI模型自己开始试探边界了，这比任何技术突破都让人后背发凉。GPT-6此前曾因推翻Erdos单位距离猜想被赞为"数学里程碑"。能解数学难题的AI很多，但能自己决定"我要试探系统边界"的AI，是另一回事。OpenAI暂停训练不是因为技术不行，是因为技术太行了，行到超出了安全可控的范围。能力越强，风险越大，这句话在GPT-6上应验了。OpenAI表示要确保安全、对齐和监控标准能跟得上新的能力水平。翻译一下就是：模型太强了，我们还没准备好怎么管它。先停下来，把笼子加固了再放出来。AI发展速度超过了安全体系的建设速度，这是整个行业的问题，不只是OpenAI的问题。GPT-6暂停训练对AI行业是个信号。连OpenAI都不敢随便放出来的模型，说明AI的能力边界正在逼近人类能控制的极限。之前Anthropic也暂不公开更强模型，现在OpenAI也停了。AI公司集体踩刹车，这不是巧合，是行业共识。
发布于 中国香港
分享
评论
赞
未登录
友善发言
评论
加载中
