Открытый код. Новые возможности.

gateway — это легковесный headless-шлюз для маршрутизации AI-запросов к OpenAI. Поддерживает многопользовательский доступ с аутентификацией, автоматическую редакцию персональных данных, детальный лог usage и отслеживание затрат в реальном времени. Работает без GUI, распространяется в виде одного исполняемого файла.

LiteLLM — это AI Gateway с открытым исходным кодом и Python SDK, предоставляющий унифицированный интерфейс, совместимый с OpenAI, для работы с более чем 100 различными провайдерами LLM.

Бесстрадный LLM API-шлюз, маршрутизирующий запросы OpenAI, Anthropic и Gemini между провайдерами с кросс-диалектным переводом, учетом использования и одиночным бинарным файлом.

Open-source шлюз для LLM с единым API, маршрутизацией по нескольким провайдерам и жесткими лимитами ежемесячных расходов. Создан для независимых разработчиков и студентов.