子期
我没背概念，讲了个真实事故。前司客服机器人被用户问"30 天可以无理由退话费吗"，回答"可以"还附了流程。可知识库里根本没有这条政策——检索捞回两个弱相关碎片，模型缝合成一条不存在的政策，语气笃定。用户截图传开，客服一天接了四百个同类咨询。面试官问怎么解。我说三件事：一，把回答拆成事实断言，逐条对检索原文核验，把"编没编"变成可计算的比率，进发布门禁；二，把无答案问题放进用例集，模型可以说"我查不到"，不许编，拒答率和忠实度一起看；三，上线后抽样评测，碰到钱、承诺这类敏感词条条必评，均值越界就告警。最后补一句：最危险的幻觉不是答错，是把不存在的事实说得像真的一样。幻觉消灭不了，但能关进阈值。换你被问这道题，会怎么答？欢迎评论区交流。
发布于 北京
分享
1
1
未登录
友善发言
评论
加载中
