Об этом проекте

New API — это самостоятельно размещаемый шлюз и система управления для API больших языковых моделей, позиционируемый как преемник следующего поколения проекта One API. Он агрегирует множество вышестоящих провайдеров моделей за единой конечной точкой и нормализует их различные форматы запросов/ответов, так что клиенты могут общаться с одним API-интерфейсом, пока шлюз выполняет трансляцию. Основные возможности, описанные в README: - Преобразование форматов: OpenAI-совместимый ⇄ Claude Messages, OpenAI-совместимый → Google Gemini и Gemini → OpenAI-совместимый (только текст, вызов функций пока не поддерживается). Преобразование OpenAI Responses указано как находящееся в разработке. Также упоминается функция «thinking-to-content». - Охват интерфейсов: chat completions, Responses, изображения, аудио, видео, эмбеддинги, rerank (Cohere, Jina), realtime-сессии (включая Azure), Claude Messages и Google Gemini chat. Midjourney-Proxy, Suno API и Dify ChatFlow также указаны как поддерживаемые вышестоящие типы, плюс настраиваемые пользовательские конечные точки. - Маршрутизация и надежность: взвешенный случайный выбор канала, автоматические повторные попытки при сбоях и ограничение скорости на уровне пользователя. - Управление усилиями рассуждения: суффиксы в именах моделей, такие как -high/-medium/-low для OpenAI o-series и GPT-5, вариант -thinking для Claude, а также суффиксы thinking/nothinking и budget для моделей Gemini. - Учетные записи и доступ: группировка токенов, ограничения моделей, управление пользователями и авторизация через Discord, LinuxDO, Telegram и OIDC. Упомянут сопутствующий инструмент запроса квот по ключам. - Учет: внутреннее пополнение и распределение квот через EPay и Stripe, учет затрат по запросам и использованию, а также статистика биллинга попаданий в кэш для таких провайдеров, как OpenAI, Azure, DeepSeek, Claude и Qwen. - Операции: визуальная панель управления со статистикой, многоязычный интерфейс (упрощенный/традиционный китайский, английский, французский, японский) и совместимость с оригинальной схемой базы данных One API. Развертывание ориентировано на Docker: предоставляется файл docker-compose, а одноконтейнерные запуски документированы для SQLite (по умолчанию, требует монтирования /data) или MySQL. PostgreSQL ≥ 9.6 и MySQL ≥ 5.7.8 поддерживаются как удаленные базы данных; поддерживаются только 64-битные amd64/arm64. Также документирована установка в один клик через панель BaoTa. Многоузловые конфигурации требуют общей основной базы данных и одинакового SESSION_SECRET, а узлы, использующие общий Redis, также должны использовать общий CRYPTO_SECRET. В README подробно описана обработка сессий для топологий с общим Redis, отдельным Redis на узел и без Redis, включая окна устаревания и поведение ограничения скорости в каждом случае. Документированы многочисленные переменные окружения для таймаутов, лимитов тела запроса, буферизации потока, доверенных прокси, лимитов сессий и профилирования Pyroscope. Проект лицензирован под AGPLv3 с дополнительными условиями раздела 7, требующими сохранения уведомления об авторстве и видимой ссылки на исходный репозиторий в модифицированных версиях. Он происходит от One API (MIT). В README подчеркивается, что использование предназначено для законных, авторизованных сценариев шлюза, управления несколькими моделями, аналитики и частного развертывания, и что операторы, предлагающие публичные генеративные ИИ-сервисы, должны выполнять применимые требования по регистрации, лицензированию, безопасности контента и связанные с этим обязательства.