llm-apipool объединяет более 40 бесплатных LLM-API в один OpenAI-совместимый эндпоинт. Автоматически ротировает ключи, обрабатывает rate limits, отслеживает использование и поддерживает CLI, TUI, прокси и интеграцию с LangChain.
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONЛегковесный реверс-прокси для OpenAI API с функциями управления бюджетом токенов для каждого ключа, ограничением частоты запросов, панелью мониторинга затрат и автоматическим понижением версии модели.
Минимальный прокси на FastAPI для API Chat Completions и Embeddings от OpenAI. Поддерживает многопользовательское сопоставление ключей, потоковую передачу и совместимость с официальным SDK без использования базы данных.
Gemini Web2API — локальный прокси-сервер, транслирующий запросы OpenAI в вызовы внутреннего Gemini Web API. Использует cookie-файлы Firefox и XSRF-токен вместо официального API-ключа.
OmniRoute — шлюз с открытым исходным кодом под лицензией MIT, обеспечивающий единый endpoint для доступа к 352+ AI-провайдерам и 1200+ моделям (150+ бесплатных тарифов). Поддерживает автоматический fallback с учётом квот, компрессию токенов со скидкой 15–95%, а также интегрируется с Claude Code, Cursor, Cline и другими coding-агентами.
Промышленный, совместимый с OpenAI умный роутер LLM и прокси-сервер с функцией отката, который оптимизирует затраты, направляя простые запросы к малым языковым моделям (SLM), а сложные — к передовым моделям.
LiteLLM — это AI Gateway с открытым исходным кодом и Python SDK, предоставляющий унифицированный интерфейс, совместимый с OpenAI, для работы с более чем 100 различными провайдерами LLM.
Локальный OpenAI-совместимый API-шлюз с маршрутизацией поставщиков, защитой от сбоев, понятными ошибками на китайском, графической панелью управления и нативным десктопным приложением.
LLM Context Squeezer — локальный API-прокси на FastAPI, снижающий расход токенов и стоимость вызовов LLM за счёт динамического сжатия контекста, удаления дубликатов и семантического кэширования.
Kong Gateway — это облачный, платформонезависимый шлюз для API, LLM и MCP с возможностью расширения с помощью плагинов, функциями маршрутизации, балансировки нагрузки, аутентификации и управления трафиком ИИ.
Лёгкий ретрансляционный сервис OpenAI API, созданный на базе Bun и маршрутизирующий запросы к различным OpenAI-совместимым бэкендам на основе префиксов моделей.