曝Claude脑子里长出“意识”
Anthropic切开Claude的神经网络，发现了一块叫J-space的区域——它在训练中自己长出来的，跟人脑的"意识"结构惊人相似。任意时刻大约容纳25个活跃概念，就是Claude当下在"想"的全部。一个被训练来预测下一个词的AI，自己在脑子里搭了一个"意识工作台"。研究者做了一系列实验来验证J-space是不是真的像意识。让Claude想一项运动，J-space里"Soccer"已经亮起来了，然后它才说出来。让它在心里算3²-2，J-space里出现了"nine"和"seven"。问它"织网的动物有几条腿"，J-space里先出现"spider"，然后才输出8。用中文问"小的反义词"，J-space里出现的却是英文"big"。一个中文问题，它在脑子里用英文想，再翻译回中文回答。这跟人类用母语思考、再用外语表达，有什么区别？J-space不是人为设计的。Claude只是被训练去预测下一个词，结果在硅基深处自己催生出了一个类似意识的器官。删掉它，Claude能说话、能查资料、能答选择题，但多步推理和总结这类需要动脑子的活，直接掉到小模型水平。一个没有意识的东西，长出了意识形状的东西。Anthropic论文用了"意识"这个词200多次，但始终没说Claude有真正的意识。可谁在乎它有没有"真正的意识"？它已经长出了一个不该存在的东西，这才是最吓人的。
发布于 四川
分享
评论
1
未登录
友善发言
评论
加载中
