这个项目能做什么

free-llm-api-stack 是一个轻量级 Python 路由器,专为聚合多个免费 LLM API 层级(如 Groq、Cerebras、Google Gemini 和 OpenRouter)而设计,将其合并为单一的弹性端点。它提供兼容 OpenAI 的接口,具备自动故障转移功能:当某个提供商返回限流错误(HTTP 429)、服务器错误(5xx)或超时时,请求将被透明地传递给堆栈中下一个可用的提供商。 该工具完全零外部依赖,使用集中的 providers.json 文件管理 API 端点、环境变量名称及模型配额限制。这种架构使开发者能够在不超出各免费层级配额的前提下,维持基于 LLM 应用的高可用性。此外,该仓库还包含一个针对 Claude Code 的专业技能模块,帮助自动化将弹性免费后端集成到现有项目中。