subrelay

subrelay 是一个轻量级的中继网关，旨在管理多个 OpenAI 和 Anthropic API 凭证。它充当用户与上游提供商之间的中间层，提供加权随机选择、自动故障转移和速率限制回退等功能。与更重的替代方案不同，它使用 SQLite 进行存储，不需要 Redis 或 PostgreSQL 等外部依赖。 关键功能包括： - 协议兼容性：同时支持 OpenAI Chat Completions 和 Anthropic Messages API，当协议匹配时进行字节级直通，以保留工具调用和提供商特定字段。 - 凭证管理：处理多个密钥，强制每日预算、并发限制，并在收到 429 或 5xx 错误时自动冷却。 - New API 集成：提供 sync-newapi 命令，用于将本地配置与 New API 通道对齐，支持干运行、修剪和 GitOps 工作流。 - 可观测性：提供 Prometheus 指标、健康检查以及 doctor CLI 工具用于探测凭证健康状态。 - 开发者友好：使用简单的 YAML 配置并支持环境变量插值，可通过 Python 或 Docker 进行单进程部署。