这个项目能做什么
LacLong 旨在位于 AI 客户端与各种 AI 提供商之间,充当统一网关,管理提供商合同、路由决策和账户选择。它致力于提供一个与 OpenAI 兼容的单一端点,以简化多个 AI 模型和账户的集成。
目前处于基础阶段(Phase 0),该项目提供以下功能:
- 一个基于 TypeScript 的网关,带有模拟的 OpenAI 兼容 `POST /v1/chat/completions` 端点。
- 基本的健康检查和模型列表端点。
- 实现了优先级和轮询路由逻辑。
- 一个基于 Laravel 的仪表板基础,用于管理提供商、账户和使用数据。
- 一个使用 `CredentialVault` 的凭证管理系统(支持 macOS 钥匙串或加密文件)。
- Docker Compose 集成,用于本地环境设置。
该架构将网关(Node.js/Fastify)与管理仪表板(Laravel)分离,确保网关保持独立。计划中的未来功能包括用于 OpenAI、Anthropic、Gemini、OpenRouter 和 Ollama 的生产适配器,以及流式聊天补全、配额跟踪和自动故障转移。
评论
0 评分人数达到10人后显示
登录后参与讨论。