这个项目能做什么

OBEY API Gateway 是一款高性能的单一二进制 AI 网关，旨在部署在应用程序与多个 AI 提供商之间。它可作为 OpenAI API 的即用型替代品，允许用户将现有 SDK 指向该网关，从而获得高级路由和可靠性功能，而无需更改应用程序代码。 核心功能包括： - **多提供商支持**：兼容 OpenAI、Ollama、AWS Bedrock、Groq、Together AI、NVIDIA NIM、vLLM 和 LM Studio。 - **可靠性与路由**：具备通过熔断器实现的自动故障转移、指数退避以及智能限速处理（尊重 Retry-After 标头）。支持基于优先级、成本感知和复杂度感知的路由。 - **高级 AI 功能**： - **响应缓存**：两级缓存，包含内存精确匹配层和通过 Qdrant 实现的可选语义层。 - **Token 管理**：提供 9 种 Token 压缩策略及工具定义压缩的 12 阶段流水线。 - **护栏机制**：调用前后策略执行，包括 PII 脱敏、正则扫描和内容审核。 - **Agent 循环检测**：检测重复的 Agent 行为，并通过警告和限流级别逐级升级处理。 - **OpenAI 集成**：支持 OpenAI OAuth 登录以用于 ChatGPT Plus/Pro 订阅，并提供原生的 /v1/responses 端点。 - **开发者工具**：内置管理面板/仪表板、Prometheus 指标、基于 SQLite 的结构化日志以及虚拟密钥管理，支持按调用方进行预算和限速控制。 - **部署**：提供 Windows 安装程序、Docker 镜像，或使用 Rust 从源码构建。