headroomlabs-ai/headroom
在工具输出、日志、文件和 RAG 片段送入大模型之前先做压缩,以减少 token 消耗:作者声称编程 Agent 场景可省约 20% token,JSON 类内容可省 60–95%,且答案保持一致。提供库、代理和 MCP server 三种接入方式,适合自建 LLM 应用的开发者,以及使用 Claude Code、Cursor 的团队。
这个项目是什么
在内容进入大模型上下文前做压缩的 token 优化工具,提供 Python/TypeScript 库、HTTP 代理与 MCP server。
能用来做什么
- 压缩编程 Agent 的日志与命令输出
- 压缩 RAG 检索片段以装下更多资料
- 通过 MCP 接入 Claude Code、Cursor
- 作为代理统一拦截并压缩请求
- 处理体量很大的 JSON API 返回
上手条件
普通人
有条件可用
图形界面
没有图形界面
部署
需要自己部署
API Key
不需要
成本:开源自托管,无订阅费信息;成本主要是运行代理/服务的机器资源,以及下游模型调用费,token 用量下降但单价取决于所选模型。
能接入:可作 MCP server 接入 Claude Code、Cursor 等 Agent 工具,也可作 HTTP 代理置于应用与大模型 API 之间,或以库的形式嵌入 LangChain 等现有流水线。
软件开发:AI 编程助手处理长构建日志研究:RAG 问答压缩检索上下文办公:把大批 JSON/报表交给模型分析软件开发:降低 Agent 长会话的上下文成本
商业方向与限制
可以怎么变现:可为团队做 token 成本审计与压缩策略调优的实施服务;或面向日志分析、报表 JSON 等特定场景做压缩规则包与托管代理。
限制:许可证 Apache-2.0,商用友好。但本次未取到 README,安装方式、压缩是否真无损、模型兼容性都无法核实;仓库创建时间很新,Star 数不足以证明成熟度,上线前需自测答案一致性。
token 压缩上下文工程MCPLLM 代理RAG
Star 历史
3 个快照2026-10-182026-10-21
页面上的中文判断由模型基于仓库信息与 README 生成,会标注不确定性;Star 与许可证等事实来自 GitHub 官方 API。发现分析有误可以在后台重新分析该仓库。