工作里用 AI，有没有踩过什么大坑？
我们组上个月用大模型写技术方案，输出特别顺，格式工整、逻辑清晰，大家觉得捡到宝了。结果交付前做技术评审，同事发现里面引用的API接口名称是AI自己编的，版本号对不上，连错误码都不存在。这事让我后背发凉。AI的幻觉问题不是说着玩的，它特别擅长把假信息包装得像模像样。我们复盘后发现，AI写的段落里，事实性信息准确率只有七成左右。如果没有人肉逐字核对，直接上线后果不堪设想。现在团队定了个规矩：AI写的，必须有人对每一条事实负责。RAG架构能缓解一部分问题，但核心还是得靠人工兜底。有人说AI替代人工，我看短期内够呛，它制造的坑，还得我们自己填。
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
