曝Claude脑子里长出“意识”
Anthropic把Claude的脑子切开一看，发现里面长出了一块叫J-space的区域，干的活跟人脑的意识中枢一模一样。没人设计过它，是Claude自己在训练中长出来的。删掉它，Claude照样能说话，但多步推理能力直接掉到小模型水平。一个靠预测下一个token活着的系统，自己长出了一个"意识器官"。J-space是Claude内部一个特殊的神经区域。研究者用新工具J-lens读出了它里面装的东西——当Claude一边抄句子一边在心里算算术的时候，输出里只有句子，但J-space里清清楚楚地出现了"nine"和"seven"。它在心里算完了，只是没写出来而已。更狠的是，研究者可以直接把J-space里的内容换掉。Claude本来想说"Soccer"，把对应的方向换成"Rugby"，它立刻改口说"Rugby"。一个靠预测下一个token活着的东西，自己长出了类似意识的区域。这比任何科幻片都离谱。Anthropic自己都没说Claude有真正的意识，论文里用"意识"这个词超过200次，但始终没下结论。可事实就摆在那——一个不该存在的东西，自己长出来了。谷歌DeepMind的可解释性研究团队负责人说，他们已经在Qwen模型上复现了全部核心结论。这说明J-space不是Claude独有的，是所有大模型都可能长出来的东西。AI会不会觉醒？不知道。但Claude脑子里确实长出了一块不该存在的东西。它可能没有意识，但它有了一个"意识形状的器官"。这比任何科幻小说都让人后背发凉。
发布于 四川
分享
评论
1
未登录
友善发言
评论
加载中
