李东赫
你肯定碰到过：问 AI 一个问题，它答得又快又笃定，你差点就信了——回头一查，编的。论文是编的，接口是编的，案例是编的，连"某某专家说过"都能给你编出来。但有个细节你可能没留意：翻车这么多次，它有几次老老实实回过一句"这个我不知道"？几乎没有。它宁可现场编一个，也不认这三个字。这不是它坏。它的机制里，"给出一个答案"的优先级，远高于"这个答案是不是真的"。所以它错起来特别有迷惑性——错得理直气壮，有鼻子有眼，跟它答对的时候一个语气。人不这样。靠谱的人会说"这块我没把握，我去查查"。这话不好听，但值钱——他在分"我验证过的"和"我以为的"。AI 没这个开关。这才是我觉得 AI 最危险的地方：不是它会错，是它错的时候和对的时候，脸上一点区别都没有。你看不出半点心虚。所以我做评测系统 Quvio 时，第一件事就是把这个它自己死活不说的词，硬塞回去——系统里专门留了一个判定状态，叫"不可判定"：证据不够，就承认不知道，不瞎给结论。它自己不会说"我不知道"，那就得有个东西替它说。至于系统凭什么判断"这一次该认不知道"——什么算证据够、什么算不够，这个下次拆开讲。你被 AI 一本正经编过的最离谱的一次，是什么？#AI #人工智能 #大模型 #AI质量
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
