Открытый код. Новые возможности.

Легковесный реверс-прокси для OpenAI API с функциями управления бюджетом токенов для каждого ключа, ограничением частоты запросов, панелью мониторинга затрат и автоматическим понижением версии модели.

Минимальный прокси на FastAPI для API Chat Completions и Embeddings от OpenAI. Поддерживает многопользовательское сопоставление ключей, потоковую передачу и совместимость с официальным SDK без использования базы данных.

CogniGate — это self-hosted шлюз для LLM с поддержкой многопользовательского режима, который предоставляет единую OpenAI-совместимую конечную точку для управления несколькими провайдерами моделей при обеспечении безопасности учетных данных.

RouteTok — локальный роутер инференса LLM с API, совместимыми с OpenAI и Anthropic, отказоустойчивым fallback, мульти-провайдерными каталогами, панелью управления и модельной песочницей.

Нейтральный к провайдерам шлюз на FastAPI для маршрутизации LLM, повторных попыток, отказоустойчивости, структурированного вывода и учета затрат. Поддерживает Gemini и OpenAI с использованием алиасов моделей.

The OpenAI Cookbook provides Python code examples and guides for common OpenAI API tasks. Users need an OpenAI account and API key to run the examples.

Движок визуальной новеллы, работающий в реальном времени на основе ИИ, с потоковым повествованием, спрайтами персонажей, фонами сцен, ветвящимися выборами и совместным творчеством. Запускается как настольное приложение или в браузере через FastAPI+SSE

Xinference — это унифицированная библиотека инференса для обслуживания языковых, речевых и мультимодальных моделей. Она предоставляет OpenAI-совместимый RESTful API, гетерогенное использование GPU/CPU, распределённое развертывание и интегрируется с LangChain, LlamaIndex, Dify и Chatbox.

One API — система управления и распространения LLM API, поддерживающая десятки моделей (OpenAI, Claude, Gemini, DeepSeek и др.) через единый OpenAI-формат. Включает управление токенами, балансировку нагрузки, группировку пользователей и вторичное распространение. Деплой через один бинарный файл или Docker.

GPT4Free объединяет провайдеров языковых моделей и генерации медиа в единый интерфейс. Предоставляет клиенты Python/JS, REST API, совместимый с OpenAI, GUI и CLI. Поддерживает генерацию текста и изображений через модели вроде gpt-4o-mini и flux.