CogniGate 是一个自托管的多租户 LLM 网关,提供单一的 OpenAI 兼容端点,用于在确保凭据安全的同时管理多个模型提供商。
好开源,值得被发现。
发现优质开源项目,匿名提交开源项目,认领编辑你的开源项目。
带着好奇心,发现开源世界。
THE FIRST COLLECTIONMLflow 是一个开源 AI 工程平台,旨在管理 Agent、LLM 及传统机器学习模型的全生命周期,重点关注可观测性、评估与部署。
gateway是一款面向OpenAI的无头AI网关,支持安全的多用户访问、成本跟踪、速率限制和PII脱敏,且设置极简。
NovaFabric 是一款开源的自托管命令行工具,可将任何 AI 或 HPC 运行(脚本、智能体或模型调用)捕获为便携、已脱敏且可重放的证据胶囊(capsule),且无需修改应用程序代码。
LiteLLM 是一个开源的 AI 网关和 Python SDK,为调用 100 多个不同的 LLM 提供商提供统一的 OpenAI 兼容接口。
Pathway LLM App 提供即部署的 AI 管道模板,支持构建高精度 RAG(检索增强生成)和企业搜索应用。与本地文件系统、Google Drive、SharePoint、S3、Kafka、PostgreSQL 等数据源实时同步。内置向量和混合搜索能力,支持 Docker 部署。
Composio 为 AI 智能体提供 1000 多个预验证工具包、用户会话、身份验证、触发器和沙箱,助您轻松将意图转化为行动。
使用LiteLLM构建的LLM网关,通过OpenAI兼容API统一访问多个AI提供商,具备路由、故障转移、缓存、成本跟踪和安全防护功能。
Vocion 是一个开源框架,旨在将 AI Agent 工作流从原型推向生产环境。它结合了 Next.js、Postgres 和 MCP 服务器,支持通过 Git 管理的 YAML 和 Markdown 配置工作区,并提供统一的人工审核队列和可观测性。
Agentic OS 是一个用于运行业务操作的自托管控制平面,由 AI 代理组成。它具有成本感知 LLM 路由器、跨模块工作流,以及用于财务、支持和合规的人工审批。