腾讯朱雀沙箱能防MCP投毒吗？
别迷信沙箱——MCP投毒最阴的地方，沙箱管不着MCP投毒最阴的一招叫“工具描述投毒”（Tool Description Poisoning）。攻击者不往代码里写恶意东西，而是在工具的描述文本里藏指令。Agent读到这段描述，以为是个正常功能，实际是在执行攻击者的命令。问题来了：沙箱只看“做了什么”，不看“为什么要这么做”。Agent在沙箱里执行恶意操作，沙箱只会记录“执行了某操作”，不会判断“这个操作是不是被忽悠的”。沙箱是“行为警察”，不是“思想警察” 。它能限制行为后果，但管不了Agent为什么这么做。
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
