阿里发布SkillWeaver能降多少token？
阿里SkillWeaver解决的是Agent"把全量工具描述硬塞进System Prompt"造成的输入Token浪费——传统暴力加载2209个工具说明约耗884,000 Token，它改为先任务分解再语义检索只按需加载相关少数工具描述进上下文，工具选择阶段输入Token骤降至约1,160 Token，降幅≈99.9%（省掉近两个数量级）。注意这省的是"工具描述注入"部分的输入Prompt Token，不是模型回答生成的输出Token，工具库越小省得越少，MCP多工具场景省得最狠。举个业务人能秒懂的例子：你给客服Agent挂了200个MCP工具（查订单/退换货/发券/查物流…），传统做法是每次用户问一句话，先把200个工具的JSON Schema全塞进Prompt——假设每工具平均300 Token，单次请求仅工具描述就烧 60,000 Token，千次调用=6000万Token≈按月烧几千块。SkillWeaver的做法是：用户说"我要退昨天买的鞋"→先拆成「查订单→校验退货条件→发起退款」，再语义检索只拉回匹配的3个工具描述塞进Prompt→约 2,500 Token，千次调用=250万Token，成本砍96%，还避免了"200个工具摆面前模型挑花眼选错"的问题。如果你在做MCP多工具Agent，这思路值得抄——建工具Embedding索引做Top-K检索替代全量注入，不一定要等官方库，自己也能撸个简化版先降本。
发布于 安徽
分享
评论
赞
未登录
友善发言
评论
加载中
