竹帘听雨
07-08·人力HR·10年+
阿里发布SkillWeaver能降多少token?
阿里团队发布 SkillWeaver AI 框架,直击 Agent 落地核心痛点:传统方案会把全部工具描述、参数全塞进上下文,工具量一多,Token 消耗暴涨,拉高使用成本、拖慢响应速度,难以规模化商用。该框架思路和传统方案完全相反,分为任务拆解、动态路由、技能编排三步。先拆分用户需求为子任务,仅加载当前环节所需工具,而非全量推送,实测 Token 消耗削减 99%。当下大模型性能已足够成熟,Agent 商业化瓶颈集中在工程侧。这套框架大幅降低多工具并发调用的成本,提升响应速度与任务准确率,打通 Agent 从 Demo 落地企业生产的关键阻碍。目前方案还处于论文阶段,任务拆解、路由逻辑自身也会产生少量 Token 开销,长期落地效果仍待行业实测验证。你做 Agent 开发时,工具上下文冗余带来的成本问题有多棘手?
发布于 贵州
1
评论
1
未登录
友善发言
image-upload
评论
加载中