Об этом проекте
New API представляет собой AI API-шлюз, разработанный для аутентификации на уровне организации, управления несколькими моделями и анализа использования. Он предоставляет унифицированный интерфейс для доступа к различным LLM, включая OpenAI, Claude и Google Gemini, а также поддержку Midjourney-Proxy и Suno-API.
Ключевые возможности включают:
- Единый формат API: поддержка форматов OpenAI-compatible, Claude Messages и Google Gemini со встроенной конвертацией между ними.
- Управление активами: современный пользовательский интерфейс с панелью данных для статистического анализа, группировки токенов и ограничений моделей.
- Биллинг и учет: поддержка внутренних пополнений, распределения квот и учета затрат на основе использования каждого запроса и попаданий в кэш.
- Безопасность и аутентификация: интеграция унифицированной аутентификации OIDC и сторонних входов через Discord, Telegram и LinuxDO.
- Интеллектуальная маршрутизация: реализация взвешенного случайного выбора каналов, автоматических повторов при сбоях и ограничения скорости на уровне пользователя.
- Развертывание: поддержка Docker и Docker Compose, совместимость с базами данных SQLite, MySQL и PostgreSQL.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.