logo
登录 / 注册

这轮大模型革命的边界与局限(二)

头像
罗辑
04-17 · 创始人
仅拟合相关关系,并没有真正的因果推理能力大模型能背下来所有的物理公式,却很难完美解决一道全新场景的物理题;能记住所有的经济学理论,却难以精准预判一个全新政策对市场的连锁影响;能完美复现别人的成熟代码,却很难在一个全新的技术框架里,做出底层的架构设计。它能做的,主要是对已有知识的演绎和复现,而在需要主动干预、反事实推理、发现全新因果关系的任务上,表现会显著下降。这不是靠思维链、工具调用就能彻底解决的,而是它的统计学习本质带来的核心约束:统计学习的本质,是拟合观测数据里的相关关系,而真正的因果推理,需要对干预、反事实进行建模,这天生不在纯被动观测的训练范式范围内。大模型的训练数据里,只有人类已经记录下来的“现象和结果”,没有背后的“干预和验证过程”。必须客观说明的是,这几年的研究已经证明,大模型在“运用文本中已明示的因果知识、通过思维链模拟因果推理过程”上,已经展现出了强大的能力,甚至在部分因果发现任务上超越了传统算法。但它缺乏内置的因果机制模型和主动干预能力,对于需要反事实推理、跨领域发现全新因果关系的复杂任务,其可靠性依然显著低于人类,这是仅靠文本预训练难以从根本上突破的。而没有真正的因果推理能力,就没有真正的通用泛化能力。
这轮大模型革命的边界与局限(二)脉脉
阅读 1
声明:本文内容由脉脉用户自发贡献,部分内容可能整编自互联网,版权归原作者所有,脉脉不拥有其著作权,亦不承担相应法律责任。如果您发现有涉嫌抄袭的内容,请发邮件至maimai@taou.com,一经查实,将立刻删除涉嫌侵权内容。
头像
我来说几句...