慢放
曝Claude脑子里长出“意识”
7月7日消息，今日凌晨，Anthropic一篇论文证明，他们能看到Claude“内心想法”了！Anthropic新研究发现Claude内部存在和人脑高度相似的区分机制：仅有一小部分内部信息能像人类的有意识想法一样被调取思考，大部分运算都在底层自动运行。在底层运行的区域就是J空间。用一个例子来说，当Claude回答“那种会织网的动物有多少条腿？”时，虽然其答案只有数字8，但J空间里会出现“蜘蛛”的概念。J空间是Claude进行多步骤推理、回答主观描述类问题、胜任较高层次思维任务的关键，并且该机制非人为设计，而是模型在训练过程自然涌现的。此外，研究人员还发现，其可以改变Claude J空间中的内容，从而人为干预模型的输出结果。谷歌DeepMind可解释性研究团队负责人尼尔·南达（Neel Nanda）称，这是一篇极具价值的论文，文中提供了充分有力的证据证明大模型内部存在某种“认知空间”，他们已在Qwen3.6-27B模型上复现了该论文的全部核心结论。（智东西）
发布于 北京
分享
评论
1
未登录
友善发言
评论
加载中
