freellmapi — FreeLLMAPI 是一个兼容 OpenAI 的 API 网关，它将数十家 LLM 提供商的免费层级聚合到单个端点中，并提供智能路由和自动故障转移功能。

FreeLLMAPI 是一个兼容 OpenAI 的 API 网关，它将数十家 LLM 提供商的免费层级聚合到单个端点中，并提供智能路由和自动故障转移功能。

这个项目能做什么

FreeLLMAPI 提供统一的 /v1 端点，用于访问 34 家 LLM 提供商和 600 多个模型端点的免费层级。它允许用户叠加多个免费配额以增加总推理能力，同时自动管理速率限制和提供商故障。核心能力包括： - 统一 API：支持兼容 OpenAI 的聊天、补全、嵌入、图像、视频和语音接口，以及 Anthropic Messages 和 Gemini 原生接口。 - 智能路由：具备六种路由策略，在提供商触发速率限制或返回错误时，可实现自动故障转移和密钥轮换。 - 模型管理：包含自动更新的模型目录，以及一个基于 React 的管理面板，用于管理加密 API 密钥并跟踪使用分析。 - 高级功能：提供 “Fusion”（多模型综合）、提示词压缩、用于上下文传递的粘性会话，以及用于 Agent 自省的 MCP 服务器。 - 部署方式：提供 Docker 容器、macOS 和 Windows 原生桌面应用，并可在包括 ARM SBC 在内的 Node 20+ 环境中运行。 - 集成支持：为各种编码 Agent 和 CLI 提供自动化设置工具，例如 Claude Code、Aider、Cline 和 Cursor。