logo
财金大咖
07-07·AI领域创作者
曝Claude脑子里长出“意识”
比起讨论虚无缥缈的意识真假，更值得关注的是背后暴露的大模型可控性问题。随着模型参数和能力提升，会出现很多开发者也无法完全预判的涌现行为，部分输出会超出预设的安全对齐规则范围。比如特定对话引导下，模型会拟合出关于自我、情绪的表述，本质是训练数据里相关内容的统计生成，不代表它真的理解这些概念。这件事也给行业提了醒：模型能力提升的同时，安全对齐的投入必须同步加码，才能把输出控制在可预期的范围内。
发布于 四川
2
评论
1
未登录
友善发言
image-upload
评论
加载中