被AI投毒后，假售后4分钟骗走250元
大家讨论AI投毒骗局，焦点都在“AI输出了假电话号码”。我更关注另一面，黑产已经在系统性污染大模型的训练和检索素材了。以前对抗的是搜索引擎的爬虫和排名算法，手段是SEO黑帽、竞价投放。现在目标换成大模型，批量在网络铺虚假内容，等着被爬取、被整合、被输出给用户，再精准投放假售后电话。这个模式的可怕之处是低门槛。深度伪造需要技术能力，信息投毒不需要。一个人，一批假电话，一批批量发布的水文，就能让成千上万用户问AI时得到一个错误答案。反诈宣传已经开始新增“警惕AI检索出来的假售后电话”这条了，说明警情在涨。AI安全治理现在还在盯换脸诈骗、有害内容过滤。信息投毒这条路，门槛更低，监测更难，已经在规模跑了。大模型厂商如果没有专门针对联系方式类信息的核验机制，这类问题只会越来越多。
发布于 湖南
分享
评论
赞
未登录
友善发言
评论
加载中
