靠谱阿无
06-21·AI领域创作者
AI第一线
省 60–95% Token,这项目火了
AI 编程工具跑长任务时,上下文被无用信息占满的情况很常见。grep 结果上百行只三行有用,日志里一堆 INFO 只是陪跑,但模型必须全读,token 消耗飞快,月底还容易撞上限流。Headroom 是一个刚火起来的开源项目,专门给 AI Agent 做上下文压缩。它夹在 Agent 和模型之间,所有要送进 LLM 的内容——工具输出、日志、代码、文件、对话历史——都会先过一遍压缩层。效果非常直接。实测里,一万多 token 的内容能压到一千出头,代码搜索和 SRE 排障这类噪音多的场景,token 直接砍掉九成。代码库探索因为信息密度高,也能省下近一半。压缩不是简单粗暴截断。Headroom 会先识别内容类型,再匹配算法:JSON 和工具输出走统计压缩,保留异常和边界值;代码压缩基于语法树,留函数签名和 import,删掉冗余实现;日志只保错误和失败,过滤通过的噪音;文本和搜索结果按相关性筛选。GSM8K 数学题准确率没掉,TruthfulQA 事实问答还涨了 3 个点。最实用的设计是 CCR 可逆机制。原始数据全存在本地,永远不会被删。模型拿到的是压缩版,如果发现信息不够,随时可以把原文调回来。相当于给模型配了个可翻页的备忘录,既省 token,又不怕压丢关键内容。接入成本很低。Python 或 TS 项目可以直接调库;不想改代码就起个本地代理,任何兼容 OpenAI 的客户端都能套;主流编程 Agent 支持一键包装;Claude Code、Cursor 这类工具还能通过 MCP 工具直接调用压缩、查询和统计功能。除此之外,它还顺手解决了两个麻烦。一是跨 Agent 共享记忆,Claude 和 Codex 不用重复学同一份项目背景,本地 SQLite 加向量库自动去重。二是自动总结失败教训,分析翻车原因后更新规则文件,越用越贴合实际使用习惯。项目目前在 GitHub 已有 22.8k Star,支持 Docker 部署,Python 3.10+ 环境三步就能跑起来。对重度依赖 AI 编程工具的人来说,这是在 token 成本和上下文效率之间,目前覆盖最完整的一个方案。
发布于 安徽
分享
评论
1
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn