柚子知AI遇
07-09·AI领域创作者
阿里发布SkillWeaver能降多少token?
SkillWeaver砍99%token
阿里研究团队发了SkillWeaver框架,号称Agent工具调用token消耗直降99%。我把论文扒了一遍,说说真实判断。思路确实聪明。传统做法是把几百个工具描述全塞进上下文让模型挑,SkillWeaver反着来——先Decompose拆子任务,再Route动态匹配技能,最后Weave串工作流。每个子任务只加载相关工具,算法层面就是从"全量加载"切到"按需路由",token自然砍下来。但这99%是有前提的。工具数量得到几百上千级别时优势才明显,你Agent就接三五个MCP Server,省的那点token还不够Decompose和Route本身的开销。深度学习模型做任务拆解本身也要烧token,机器学习里没有免费的午餐。更关键的是:目前还是论文阶段,没有开源代码,没有第三方复现。我们自己做的推理优化方案——Prompt Cache + 工具描述压缩 + 懒加载,实测也就省了60-70%。阿里说99%,我赌测试场景偏向极端工具数量。不过方向是对的。2026年日均token调用140万亿,30-60%在被浪费,Token Waste已经成为GitHub上5200个Issue的热门话题。Agent从Demo走向生产,token成本不解决就是死路。
发布于 上海
分享
评论
未登录
友善发言
image-upload
评论
加载中