AI 产出出错，锅谁来背？
上上个月线上事故复盘，一个用AI生成的接口出了数据问题。leader扫了一圈问"这代码谁写的"，会议室安静了三秒，最后写代码的同事小声说"AI生成的，我review过逻辑"。审核的同事立刻接话："我只看了业务逻辑，边界条件这块是写的人负责。"这个场景我见过太多次了。AI产出出错，锅谁来背，之所以能成为话题，是因为责任链条在AI介入后彻底断了。以前代码是人写的，出问题追到人就行；现在代码是AI写的，写的人说"它给的"，审的人说"我只看了主流程"，最后锅在会议室里转了一圈，落到了最不会辩解的人头上。AI提效是真的，我组里一个接口从三天缩到半天。但它的短板也恰恰在这——出错方式太隐蔽，编译能过、逻辑能跑，边界条件漏了，测试环境两周没事，上生产才炸。这种锅，比人写的bug难背多了。我现在的追究办法就三条：第一，AI生成的代码必须留痕，标注哪段是AI产出，别混在人工代码里；第二，AI产出必须过双人review，写的人和审的人分开，别让同一个人既写又审；第三，出问题先查prompt和上下文，别一上来就追人。AI不会背锅，锅最后总要落到人头上。那这个"人"，该是写prompt的，还是点确认的。
发布于 广东
1
4
赞
未登录
友善发言
评论
加载中
