Открытый код. Новые возможности.

Серверлесс-конвейер кликстрим-данных на AWS: ингестия через API Gateway, Kinesis, обработка и сохранение в Parquet через Firehose и S3, каталогизация Glue, запросы через Athena. IaC на AWS SAM.

Apache APISIX — это динамический, работающий в реальном времени высокопроизводительный облачный API-шлюз и AI-шлюз на основе NGINX и etcd, предоставляющий динамическую маршрутизацию, горячую загрузку плагинов, поддержку множества протоколов и AI-проксирование для LLM-нагрузок.

Универсальный API-шлюз для локальных и удаленных LLM, предоставляющий совместимую с OpenAI конечную точку для маршрутизации запросов через провайдеров, таких как OpenAI, Anthropic, Gemini и Ollama.

Легковесный ретрансляционный шлюз для OpenAI/Anthropic с пулингом учетных данных, автоматическим переходом при сбое и синхронизацией каналов New API с использованием только SQLite.

llm-apipool объединяет более 40 бесплатных LLM-API в один OpenAI-совместимый эндпоинт. Автоматически ротировает ключи, обрабатывает rate limits, отслеживает использование и поддерживает CLI, TUI, прокси и интеграцию с LangChain.

Легковесный реверс-прокси для OpenAI API с функциями управления бюджетом токенов для каждого ключа, ограничением частоты запросов, панелью мониторинга затрат и автоматическим понижением версии модели.

CogniGate — это self-hosted шлюз для LLM с поддержкой многопользовательского режима, который предоставляет единую OpenAI-совместимую конечную точку для управления несколькими провайдерами моделей при обеспечении безопасности учетных данных.

XTokenHub — самохостимый шлюз-агрегатор для API LLM-провайдеров. Объединяет ключи в каналы, предоставляет единые OpenAI и Anthropic-эндпоинты с автоматической конвертацией протоколов и отслеживает в реальном времени использование токенов, cache hit rate и статистику по ключам. Go + React, поставляется одним бинарником.

SafeLine — это самодостаточный веб-фаервол и обратный прокси, который устанавливается перед веб-приложениями для фильтрации и блокировки вредоносного HTTP/S-трафика. Он предлагает ограничение скорости, защиту от ботов, динамическое шифрование HTML/JS и списки контроля доступа.

Нейтральный к провайдерам шлюз на FastAPI для маршрутизации LLM, повторных попыток, отказоустойчивости, структурированного вывода и учета затрат. Поддерживает Gemini и OpenAI с использованием алиасов моделей.

Token Station — локальный шлюз-маршрутизатор для ИИ-агентов и LLM-провайдеров. Маршрутизирует Claude Code, Cursor, Codex, Gemini CLI и другие через loopback-шлюз с интеллектуальным выбором уровня, маршрутизацией с учётом квот и отслеживанием использования.

Бесстрадный LLM API-шлюз, маршрутизирующий запросы OpenAI, Anthropic и Gemini между провайдерами с кросс-диалектным переводом, учетом использования и одиночным бинарным файлом.

Библиотека Python без зависимостей, переводящая различные API LLM в совместимый с OpenAI формат и обеспечивающая автоматический переключатель между провайдерами.

Higress — это облачный AI-ориентированный API-шлюз на базе Istio и Envoy с расширяемостью через Wasm-плагины, унифицированным доступом к LLM-провайдерам, хостингом MCP-серверов и поддержкой Kubernetes Ingress.

One API — система управления и распространения LLM API, поддерживающая десятки моделей (OpenAI, Claude, Gemini, DeepSeek и др.) через единый OpenAI-формат. Включает управление токенами, балансировку нагрузки, группировку пользователей и вторичное распространение. Деплой через один бинарный файл или Docker.

Прокси-сервис высокого уровня доступности для Claude Code, маршрутизирующий запросы через пять китайских AI-провайдеров с автоматическим переключением, защитой от каскадных сбоев и перезагрузкой конфигурации без простоя.

Kong Gateway — это облачный, платформонезависимый шлюз для API, LLM и MCP с возможностью расширения с помощью плагинов, функциями маршрутизации, балансировки нагрузки, аутентификации и управления трафиком ИИ.