gateway — это легковесный headless-шлюз для маршрутизации AI-запросов к OpenAI. Поддерживает многопользовательский доступ с аутентификацией, автоматическую редакцию персональных данных, детальный лог usage и отслеживание затрат в реальном времени. Работает без GUI, распространяется в виде одного исполняемого файла.
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONLiteLLM — это AI Gateway с открытым исходным кодом и Python SDK, предоставляющий унифицированный интерфейс, совместимый с OpenAI, для работы с более чем 100 различными провайдерами LLM.
Hyperstrate Server — это self-hosted AI gateway для команд, которым нужен детальный контроль над LLM инфраструктурой. Центральное звено между приложениями и AI провайдерами с маршрутизацией, governance, observability и оценкой качества.
Kong Gateway — это облачный, платформонезависимый шлюз для API, LLM и MCP с возможностью расширения с помощью плагинов, функциями маршрутизации, балансировки нагрузки, аутентификации и управления трафиком ИИ.