微学AI
07-08·AI领域创作者
阿里发布SkillWeaver能降多少token?
SkillWeaver省99%token
看到阿里SkillWeaver把token从88.4万压到1160、降了99.9%这个数字时,我的第一反应是"这基线有问题"。仔细看论文才明白,所谓88.4万是把全部2209个MCP技能一股脑塞进上下文的"LLM-Direct"基线——这相当于让模型在1200个工具描述里大海捞针,本身就是反模式。真正的对比应该是:Qwen2.5-7B在SkillWeaver下达到67.7%分解准确率,加上SAD迭代反馈还能再涨几个点。我自己用Claude搭过多技能Agent,体感是:工具一超过50个,模型选错率就会指数级上升,token也同步暴涨,因为光工具描述就要吃掉1-2万token。SkillWeaver厉害的地方不是"省token"这三个字,而是把"组合式任务"这件事标准化了——以前我们是手写if-else分派任务、或者硬写CoT prompt让模型自己拆,现在用一个FAISS检索器+反馈循环就能搞定。我印象最深的是它的15秒索引、<15ms检索延迟,这意味着搭建一个生产级路由几乎零门槛,等开源代码放出来我肯定第一时间跑跑看。
发布于 福建
分享
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn