阿里发布SkillWeaver能降多少token？
阿里研究院推出 SkillWeaver 技能路由框架，业内最关心的就是 token 压缩幅度，结合官方基准数据与落地场景聊聊真实降幅区间，给做多工具智能体的同行做参考。传统 Agent 会把全部工具描述全塞进上下文，工具库规模越大 token 开销越夸张，在含 2209 个技能的标准测试集里，基线单次请求消耗 884000token，接入 SkillWeaver 后仅需 1160token，理论降幅高达 99.9%。核心逻辑是放弃全量工具灌入，采用分解 - 检索 - 组合三段链路，搭配 SAD 迭代优化，仅检索匹配当前任务的少量技能，不用占用海量上下文窗口，同时任务分解准确率同步提升，7B 模型复杂任务精度上涨三成以上。但理论极值不能直接等同于线上收益，分场景差异明显。企业工具库超千个、多步骤复杂流程场景，线上可稳定实现 90% 以上 token 削减，API 调用成本大幅下降；若仅十余个轻量工具、单步简单任务，降幅通常在 40%-70%，优化空间有限。另外该框架依赖向量检索组件，中小团队接入需额外维护 FAISS 索引，存在少量检索算力开销。整体来看，大规模多工具企业 Agent 项目，SkillWeaver 降 token 效果极具价值；轻量化小型智能体，可按需评估接入成本，不必盲目落地。
发布于 山西
1
评论
赞
未登录
友善发言
评论
加载中
