这个项目能做什么

AI Gateway 是一个轻量级、可自托管的 API 网关，旨在兼容 OpenAI 的接口。它允许用户定义映射到应用程序所用特定模型名称的路由，然后按顺序尝试配置的提供商请求，直到其中一个成功为止 —— 这有助于减少因速率限制或停机导致的失败。支持 Docker 部署、systemd 服务和本地二进制构建。配置通过支持环境变量替换的 YAML 进行管理，从而实现灵活的提供商设置（例如 Cerebras、OpenRouter）和每条路由的超时设置。包含用于兼容性修复的请求适配器（如 tool_choice 放宽或 JSON schema 注入）、瞬时错误时的端点轮换以及诊断端点。身份验证使用 API 密钥；可选通过 OTLP/HTTP 进行遥测。安全默认设置包括非 root 执行和日志脱敏。对于希望在将 LLM 集成到 n8n 等应用中，同时保持弹性并控制提供商回退的开发者来说，这是一个理想的选择。