headroomheadroomlabs-ai
新收录Headroom是一个本地运行的AI代理上下文压缩层,可压缩工具输出、日志、RAG片段、文件和对话历史,显著降低LLM令牌消耗,同时保持答案完整性,支持Claude、Codex、Copilot等多种代理框架。
发现优质开源项目,匿名提交开源项目,认领编辑你的开源项目。
带着好奇心,发现开源世界。
THE FIRST COLLECTIONHeadroom是一个本地运行的AI代理上下文压缩层,可压缩工具输出、日志、RAG片段、文件和对话历史,显著降低LLM令牌消耗,同时保持答案完整性,支持Claude、Codex、Copilot等多种代理框架。
UL-SMF是一个面向长上下文Transformer推理的KV缓存压缩框架,声称通过FSQ和16D潜在映射实现高达384倍压缩。核心压缩逻辑依赖专有闭源二进制文件。
DeepSpeed 是一个深度学习优化库,旨在使大规模模型的训练和推理变得简单、高效且有效。