AI 产出出错，锅谁来背？
我们做过一个客服回复辅助功能，AI生成建议话术，客服确认后再发送。上线初期出过一次问题：系统把已经过期的退款政策当成现行规则，客服没注意，直接回复了客户。最后投诉升级，团队第一反应是追责客服。但复盘后发现，这件事不能只怪使用者。知识库没有及时更新，页面也没标注信息来源和更新时间；产品为了提高使用率，还把“直接发送”按钮放得特别醒目。等于系统把一个看起来很确定、其实没有验证的答案推到了客服面前。后来我们做了三个改动：高风险问题不自动生成承诺；答案旁边显示来源；涉及退款和赔偿必须主管确认。我的感受是，AI出错不能简单找一个人背锅。使用者要复核，产品要设置边界，管理者要设计流程。只让最后点击发送的人负责，解决不了下一次错误。
发布于 上海
分享
评论
1
未登录
友善发言
评论
加载中
