K神：先做透模型，再催Agent干活
K神说先做透模型再催Agent，我有个更刺激的故事。去年领导让我用AI写安全评价报告，说"省时间"。我试了，AI十分钟写完一份，我一看——文笔流畅、格式规范、专业术语一套一套的。我乐了，这效率，一天能写十份。交上去第二天，被技术总监打回来。原因：AI把"甲类危险化学品仓库"的安全间距写成了"乙类"的标准。一字之差，性质完全不同。甲类间距要30米，乙类只要15米。如果按AI写的来，仓库位置不合规，一旦出事就是爆炸级。我吓出一身冷汗。AI写的报告，看着专业，实际上是在"编"。它不理解甲类和乙类的区别意味着什么，它只是在模仿报告的格式和语气。更细思极恐的是——如果技术总监没看出来呢？如果这份报告被用来做安全审批呢？如果真按这个间距建了仓库呢？K神说先做透模型，在安环领域这话有特殊分量。别的行业模型没做透，顶多用户体验差。安环行业模型没做透，可能出人命。后来我定了个规矩：AI写的报告，必须人工逐字审核。AI是助手不是替身，最终签字的是人，负责的也是人。K神的话翻译成安环语言就是——模型可以帮你写报告，但它不能替你坐牢。
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
