阿里发布SkillWeaver能降多少token？
论文说最高降99.9%，2209个工具从88万token压到1160。我们团队兴冲冲拿20个工具测了一下——降了，确实降了，从1.2万token压到350，看着挺唬人。但账不是这么算的。你得先搭嵌入模型做向量检索，额外吃一张GPU跑FAISS索引，再写半周适配代码对接LangChain。token省下来的钱，全贴在GPU电费和开发排期上了。最坑的是简单任务——就一个工具调用的事，SkillWeaver照样跑一遍拆解、检索、匹配三件套，光检索框架本身就要吃掉300到800个token的固定开销。我一个单步查询本来2000 token搞定，加了这个反而多了。这东西的适用场景窄得很——你工具池超过50个、任务拆解频繁、有GPU闲置余量，性价比才成立。中小团队十几二十个工具，老老实实用LangGraph吧。论文里99.9%那是极限压测数据，别当真。跟买车看工信部油耗一个道理——你跑不出来。
发布于 山东
分享
评论
1
未登录
友善发言
评论
加载中
