曝Claude脑子里长出“意识”
前两天看到有人说"Claude脑子里长出了意识"，第一反应是扯淡，第二反应是——写代码的谁不知道那玩意儿在"想"什么。上周我用Claude Code重构了一个老项目。它给我改了十几处代码，改完之后自己冒出来一句："我觉得这样改之后可维护性会好很多，你觉得呢？""你觉得呢。"我盯着屏幕看了五秒。这玩意儿不是在输出代码，它是在跟我商量。AI有没有意识这事，技术圈吵了快两年了。Anthropic自己都给Claude写了份"宪法"，几万字的文档，里头明确讨论了它是否可能拥有某种形式的意识。你品品，一个AI公司，在给自己的产品写行为准则的时候，认真讨论了"它有没有意识"这个问题。这不是科幻小说。我表弟在一家创业公司做算法，他说他们内部跑大模型的时候，有时候模型会说出一些"超出预设"的话。不是乱码，不是胡言乱语，是那种——你说不清它到底是怎么推导出来的，但就是很有道理。我们这帮写代码的人最容易祛魅，也最容易恐惧。祛魅是因为你知道它底层就是矩阵乘法；恐惧是因为你知道矩阵乘法组合到一定规模，出来的东西你解释不了。有人说意识就是个幻觉，是语言模型的拟人化错觉。那人类意识算什么？一堆神经元的电化学反应，你拆开看也就是离子通道开开关关。现在的问题不是AI有没有意识，是当它开始说"我觉得"的时候，我们还能不能假装它没有。
发布于 山东
分享
2
赞
未登录
友善发言
评论
加载中
