这个项目能做什么

GPT-Load 是一个自托管 AI 网关,旨在通过单一入口管理多个 AI 提供商和凭证。它同时支持 API 密钥和订阅账户(如 Codex、Claude、Antigravity 和 Grok),提供统一的凭证管理、流量调度、重试、冷却、黑名单和会话亲和性,以减少过载或失效凭证带来的影响。 该网关对外暴露原生 OpenAI、Anthropic 和 Gemini 协议,使客户端能够保留现有接口,同时将请求路由到各种上游服务。内置渠道包括官方和云提供商(OpenAI、Anthropic、Gemini、xAI、Azure OpenAI、AWS Bedrock、Google Vertex AI)、模型服务(DeepSeek、Moonshot AI、SiliconFlow、Zhipu AI、Alibaba、Volcengine、OpenRouter、Groq)、订阅渠道以及自定义的 OpenAI 兼容中继。 主要功能包括: - 多凭证调度,支持可配置权重、重试、冷却、黑名单和会话亲和性 - 在嵌入式管理界面中提供请求日志、用量统计和成本估算 - 支持 SQLite、MySQL 或 PostgreSQL 数据库,并支持本地凭证加密 - 通过 Docker Compose 部署,快速上手简单 - 为 Linux、macOS 和 Windows 提供原生二进制构建,包括 Windows Setup 安装程序 - 通过环境变量配置网络、数据库、日志和安全设置 GPT-Load 2.0 是完全重写版本,无法就地迁移 1.x 数据。它面向单一应用实例设计,不支持水平扩展。用量和成本数据为估算值,不应视为财务记录。 该项目采用 MIT 许可证,并依赖 Bifrost Core、CLIProxyAPI 和 Lobe Icons 等开源组件。