AI 产出出错，锅谁来背？
有些团队之所以一出AI事故就互相甩锅，是因为他们没有给AI留容错空间。一个不允许出错的系统，必然会导致人人自危、层层甩锅。但AI的特性决定了它一定会出错——幻觉、偏见、知识截止，这些都是模型固有的缺陷。聪明的团队会做两件事：第一，在业务流程中设置“安全阀”，比如AI生成的文案必须有人审核才能发布、AI写的代码必须通过自动化测试才能合并；第二，在绩效考核中设置“容错率”，允许一定的AI出错率，只要不是重复犯同样的错误，就不算严重事故。我现在的团队有一个原则：AI出错的第一次，复盘但不追责；第二次犯同样的错误，才追究流程和执行问题。这样既给了大家试错的空间，又倒逼团队建立防错机制。争论“锅谁来背”不如讨论“怎么让锅不掉下来”。
发布于 湖北
分享
评论
1
未登录
友善发言
评论
加载中
