布罗克曼：Agent将取代App
布罗克曼说Agent将取代App，我担心的是另一件事——工人开始把Agent当"算命先生"用。我们厂上了安全Agent后，本来是让它帮工人查规程、查MSDS（化学品安全技术说明书）。结果工人们开发出了新用法：遇到拿不准的事，不查规程了，直接问Agent。“这个化学品能跟那个混放吗？”“这个温度下反应安全吗？”“这个设备能超负荷运行十分钟吗？”这些问题，本来该查规程、问技术员、走审批流程。现在工人直接问Agent，Agent秒回，工人照做。省事是省事了，但安环人的血压上来了。反转发生在上个月。一个工人问Agent"二甲苯泄漏了能用沙土吸附吗"，Agent说"可以"。工人照做了。但Agent没说的是——那批沙土是湿的，二甲苯遇湿沙会产生静电，在密闭空间里可能引发火灾。幸亏我巡检时闻到味道赶过去，让人立刻通风、换干沙，才没出事。我去查Agent的回答记录，发现它回答了上千条安全问题，大部分是对的，但每几十条就会有一条"看起来对、实际上要命"的回答。因为它只回答"能不能"，不回答"在什么条件下能"。而安环的精髓恰恰是"条件"——同一个操作，在A条件下安全，在B条件下致命。布罗克曼说Agent取代App，但App不会"主动回答问题"，Agent会。这个"主动性"在安环领域是双刃剑——用好了是助手，用不好是"权威型杀手"。工人天然信任"系统说的"，但Agent不是规程，它的回答不能替代法定流程。后来我下了死命令：Agent的回答仅供参考，涉及安全操作必须查纸质规程、必须走审批。工人们嫌麻烦，我说：“嫌麻烦和嫌命长，你选一个。”
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
