你有没有遇到过那种同学，考试前拍着胸脯说“我全背下来了”，等被点名回答时，他能面不改色地把秦始皇和雍正皇帝安排在一个微信群聊天，还给你补充细节说雍正发了个“朕知道了”的表情包。现在的 AI 大模型就这副德性，它有个学名叫“幻觉”，说白了就是 AI 在不知道答案的时候，不肯老老实实说“我不知道”，而是用极其自信的语气编造出一个看起来有鼻子有眼的答案。你用生活经验想想，这就好比你去便利店问路，店员不知道那条小巷子在哪儿，但为了保住面子，他随手画了一张地图，连奶茶店的位置都标得跟真的一样，你按图索骥却发现那里是个公共厕所。AI 产生幻觉的原因，其实跟它学知识的方法有关。它并不是像人那样理解世界，而是通过海量的文本训练学会了“这个词后面通常跟着那个词”的概率游戏。当它被问到一个冷门问题，比如“为什么猫不敢跟吸尘器打架”，它没有真实体验过，但依据曾经读过的段子、科普文、以及网友调侃拼凑出一个看上去合理的解释，它可能会说“因为猫的听觉频率与吸尘器马达共振，导致前庭功能紊乱”，说得你一愣一愣的，差点去查科研论文。问题是它说这话时眼神比你二舅还真诚。这种幻觉在某些场合特别危险，假如有人用 AI 查询医疗建议，它可能把感冒药和降压药的剂量混成一杯鸡尾酒配方。不过，AI 幻觉也有可爱的一面，你让它写小说，它能把恐龙和外卖小哥聊人生的故事编得比电影院的大片还有趣。所以现在的开发者正忙着给 AI 装上“诚实开关”，教它在不确定的时候先坦白，就像那个同学终于学会举手说：“老师，这题我抄错行了，能换个问题吗？”
发布于 福建
分享
评论
赞
未登录
友善发言
评论
加载中
