这个项目能做什么
LocalRouter 是一款自托管的 AI API 代理网关,旨在完全在本地机器上运行。它允许开发者将对多个 AI 提供商(包括 OpenAI、Anthropic、Azure、Ollama 等)的访问统一在单个一致的端点之后。这消除了在切换提供商或模型时修改应用程序代码的需求。其核心功能包括模型别名(例如,将 'gpt-4o' 映射到任何上游提供商)、一键切换激活的上游、完整的请求/响应日志(包括流式 SSE 内容)、基于可配置模型定价的实时成本追踪,以及包含 Token 趋势以及按来源、入口或模型细分的详细使用分析。该工具支持通过可选的身份验证令牌进行访问控制,并提供桌面应用(macOS, Windows, Linux)和服务器模式。所有数据均存储在本地 SQLite 数据库中,确保隐私和离线运行。开发者只需更改 base URL,即可将其与现有的 OpenAI SDK 无缝集成。仪表盘提供了对来源、入口、日志和统计数据的可视化管理,使调试和监控变得简单。日志上限为 10,000 条,会自动修剪非星标记录,而星标日志将永久保留。配置通过 .env 文件简单设置端口和数据库路径。采用 MIT 许可证。
评论
0 评分人数达到10人后显示
登录后参与讨论。