这个项目能做什么
New API 是一个面向大语言模型 API 的自托管网关和管理系统,定位为 One API 项目的下一代继任者。它将众多上游模型提供商聚合到单一端点之后,并规范化它们不同的请求/响应格式,从而使客户端只需对接一个 API 表面,而网关负责处理转换。
README 中描述的核心功能包括:
- 格式转换:OpenAI 兼容格式 ⇄ Claude Messages,OpenAI 兼容格式 → Google Gemini,以及 Gemini → OpenAI 兼容格式(仅文本,尚不支持函数调用)。OpenAI Responses 转换被列为开发中。还提到了“thinking-to-content”功能。
- 接口覆盖:聊天补全(chat completions)、Responses、图像、音频、视频、嵌入(embeddings)、重排序(Cohere、Jina)、实时会话(包括 Azure)、Claude Messages 和 Google Gemini 聊天。Midjourney-Proxy、Suno API 和 Dify ChatFlow 也被列为支持的上游类型,此外还有可配置的自定义上游端点。
- 路由与可靠性:渠道加权随机选择、失败自动重试、以及用户级模型速率限制。
- 推理强度控制:OpenAI o 系列和 GPT-5 的模型名称后缀如 -high/-medium/-low,Claude 的 -thinking 变体,以及 Gemini 模型的 thinking/nothinking 和预算后缀。
- 账户与访问:令牌分组、模型限制、用户管理,以及通过 Discord、LinuxDO、Telegram 和 OIDC 的授权登录。文中还提到了配套的密钥配额查询工具。
- 计费:通过 EPay 和 Stripe 进行内部充值和配额分配,按请求和按用量计费,以及针对 OpenAI、Azure、DeepSeek、Claude 和 Qwen 等提供商的缓存命中计费统计。
- 运维:带有统计信息的可视化仪表盘,多语言界面(简体中文、繁体中文、英文、法文、日文),以及与原始 One API 架构的数据库兼容性。
部署以 Docker 为中心:提供了 docker-compose 文件,并记录了单容器运行方式,支持 SQLite(默认,需挂载 /data)或 MySQL。PostgreSQL ≥ 9.6 和 MySQL ≥ 5.7.8 可作为远程数据库;仅支持 64 位 amd64/arm64。还记录了宝塔面板的一键安装。多节点部署需要共享主数据库和相同的 SESSION_SECRET,共享 Redis 的节点还必须共享 CRYPTO_SECRET。README 详细说明了在共享 Redis、每节点 Redis 和无 Redis 拓扑下的会话处理,包括陈旧窗口以及每种情况下的速率限制行为。还记录了大量环境变量,用于超时、请求体大小限制、流缓冲、可信代理、会话限制和 Pyroscope 性能分析。
该项目采用 AGPLv3 许可证,并附加第 7 条条款,要求在修改版本中保留署名声明和指向原始仓库的可见链接。它衍生自 One API(MIT)。README 强调,该项目旨在用于合法、授权的网关、多模型管理、分析和私有部署场景,并且提供公共生成式 AI 服务的运营商必须满足适用的备案、许可、内容安全及相关义务。
评论
0 评分人数达到10人后显示
登录后参与讨论。