llm-apipool объединяет более 40 бесплатных LLM-API в один OpenAI-совместимый эндпоинт. Автоматически ротировает ключи, обрабатывает rate limits, отслеживает использование и поддерживает CLI, TUI, прокси и интеграцию с LangChain.
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONXTokenHub — самохостимый шлюз-агрегатор для API LLM-провайдеров. Объединяет ключи в каналы, предоставляет единые OpenAI и Anthropic-эндпоинты с автоматической конвертацией протоколов и отслеживает в реальном времени использование токенов, cache hit rate и статистику по ключам. Go + React, поставляется одним бинарником.
Token Station — локальный шлюз-маршрутизатор для ИИ-агентов и LLM-провайдеров. Маршрутизирует Claude Code, Cursor, Codex, Gemini CLI и другие через loopback-шлюз с интеллектуальным выбором уровня, маршрутизацией с учётом квот и отслеживанием использования.
Бесстрадный LLM API-шлюз, маршрутизирующий запросы OpenAI, Anthropic и Gemini между провайдерами с кросс-диалектным переводом, учетом использования и одиночным бинарным файлом.
Higress — это облачный AI-ориентированный API-шлюз на базе Istio и Envoy с расширяемостью через Wasm-плагины, унифицированным доступом к LLM-провайдерам, хостингом MCP-серверов и поддержкой Kubernetes Ingress.
One API — система управления и распространения LLM API, поддерживающая десятки моделей (OpenAI, Claude, Gemini, DeepSeek и др.) через единый OpenAI-формат. Включает управление токенами, балансировку нагрузки, группировку пользователей и вторичное распространение. Деплой через один бинарный файл или Docker.
Kong Gateway — это облачный, платформонезависимый шлюз для API, LLM и MCP с возможностью расширения с помощью плагинов, функциями маршрутизации, балансировки нагрузки, аутентификации и управления трафиком ИИ.
Серверлесс-конвейер кликстрим-данных на AWS: ингестия через API Gateway, Kinesis, обработка и сохранение в Parquet через Firehose и S3, каталогизация Glue, запросы через Athena. IaC на AWS SAM.
Apache APISIX — это динамический, работающий в реальном времени высокопроизводительный облачный API-шлюз и AI-шлюз на основе NGINX и etcd, предоставляющий динамическую маршрутизацию, горячую загрузку плагинов, поддержку множества протоколов и AI-проксирование для LLM-нагрузок.