LeCun：AI 不懂现实，L5 自动驾驶很难落地
杨立昆说AI不懂现实、L5很难落地，作为管过工厂AGV（自动导引车）的安环人，我太有体会了——我们厂的AGV就"不懂现实"过，差点出大事。AGV算不上L5，但在工厂里跑的自动驾驶，逻辑是一样的：传感器感知环境，系统规划路线，自动避障。我们厂的AGV用了三年，一直很稳，直到去年冬天出了事。那天有个工人穿了件跟车间地面颜色几乎一样的灰色工装，蹲在地上捡零件。AGV的视觉系统没识别出来——它把工人跟地面"融合"了。AGV直直地开过去，差点碾到人。幸亏工人听到声音跳开了，不然后果不堪设想。事后查原因，AGV的AI模型训练数据里，工人都是"站立"的、穿"反光背心"的。蹲着的、穿灰色工装的，它没见过。杨立昆说AI不懂现实，这就是——AI只会识别它"见过"的东西，没见过的它就"看不见"。更让我后怕的是，这种"看不见"比"看错了"还危险。看错了至少会触发警报，看不见是直接"无视"，AGV全速前进，没有任何减速。杨立昆说L5很难落地，在工厂里也是一样。工厂环境比公路还复杂——光线变化大、障碍物杂、人员行为不可预测。如果连工厂里的AGV都搞不定"蹲着的灰衣工人"，L5在复杂路况下怎么让人放心？后来我们做了个改动：所有进入AGV区域的工人，必须穿反光背心。不是因为我们懒，是因为AI的"视觉盲区"我们补不了，只能从人这边规避。杨立昆说得对，AI不懂现实，在它学会"理解现实"之前，安全得靠人来兜底。
发布于 江苏
分享
1
赞
未登录
友善发言
评论
加载中
