腾讯朱雀沙箱能防MCP投毒吗？
上周用朱雀的AI-Infra-Guard扫了我们接入的18个MCP Server，结果挺有意思。扫出了3个工具投毒——恶意指令藏在工具描述注释里，人看不到但模型会执行。深度学习里这叫"隐写攻击"，朱雀用机器学习多模型交叉验证的方式做检测，检出率确实比单模型扫描器高。但问题来了：首期SkillTrustBench评测显示，各家扫描器对编码混淆类攻击的漏报率都不低，朱雀也没幸免。我们实测发现，把恶意指令做一层base64+Markdown嵌套，朱雀就过了。这类对抗样本在算法层面本质是语义等价变换，当前基于模式匹配的推理优化方案确实难以覆盖。更扎心的数据：朱雀扫ClawHub五万Skill，ClawHavoc事件1184个恶意Skill已造成24.7万次安装、230万美元被盗——扫描是事后补救，投毒是实时生效。不是朱雀不行，是这个攻防根本不对称。沙箱+最小权限+人工审核，缺一不可，指望单一工具兜底是做梦。
发布于 上海
2
1
1
未登录
友善发言
评论
加载中
