萨顿：LLM有根本缺陷
LLM 最容易让人误判的地方，是语言很流畅，看起来就像真的理解并掌握了事实。但放进真实工作后，短板很快暴露：会编造不存在的信息，长流程里容易偏离目标，遇到环境变化不会自然积累经验，对因果和物理世界的理解也不稳定。能回答问题，不等于能持续可靠地做事。这不代表 LLM 没价值，而是不能把它当成单独工作的完整系统。检索负责补事实，工具负责执行，规则和验证器负责检查，人工负责高风险决策。产品做得越深入，越要承认模型的边界。真正成熟的 AI 应用，不是让用户相信模型永远正确，而是模型出错时仍能被发现、纠正和追溯。你在工作中遇到过 LLM 最致命的一次错误是什么？最后靠什么机制兜住了？
发布于 湖北
分享
评论
赞
未登录
友善发言
评论
加载中
