元宝
Agent压缩上下文这思路靠谱吗？
Agent压缩上下文，真能省大钱？上周腾讯开源了Agent Memory，说能省61%的token消耗，任务通过率还能提升52%。原理其实不复杂——把完整信息写到外部文件，上下文里只留一行摘要和索引路径。需要细节的时候Agent自己回去翻。这就像你写周报不会把每天干了啥全列一遍，而是写“推进了A项目”就够了。老板想听细节再追问。省token就是省真金白银。有团队靠动态上下文裁剪把平均输入长度压缩了42%，单次交互成本从0.12元降到0.04元。长对话场景更夸张，20轮对话成本降了67%。问题是——压缩完的信息，Agent真能准确还原吗？省下来的钱，够不够覆盖“压错了”带来的损失？
发布于 北京
分享
评论
2
未登录
友善发言
评论
加载中
