Об этом проекте

Wynth API представляет собой downstream-форк New API, разработанный как шлюз LLM следующего поколения и система управления AI-активами. Он предоставляет централизованный интерфейс для управления несколькими провайдерами AI-моделей, предлагая аутентификацию на уровне организации, аналитику использования и учет затрат. Ключевые возможности включают: - Пулинг аккаунтов: многоплатформенный пулинг аккаунтов для OpenAI, Anthropic, Gemini, Vertex AI, xAI и grok.com с функциями охлаждения при сбоях (failure-grading cooldowns), выбора с учетом нагрузки и контроля параллельных запросов для каждого пользователя. - Поддержка моделей: интеграция с моделями, совместимыми с OpenAI, Claude (формат Messages), Google Gemini, Midjourney-Proxy, Suno-API и моделями Rerank (Cohere, Jina). - Интеллектуальная маршрутизация: поддержка взвешенного случайного выбора каналов, автоматических повторов при сбоях и ограничения скорости (rate limiting) на уровне пользователя. - Конвертация форматов: преобразование между форматами OpenAI compatible, Claude Messages и Google Gemini. - Инструменты управления: современный пользовательский интерфейс с панелью данных, управлением правами доступа (группировка токенов, ограничения моделей) и поддержкой различных методов аутентификации, включая OIDC, Discord, Telegram и LinuxDO. - Развертывание: поддержка Docker и Docker Compose с возможностью выбора базы данных SQLite, MySQL или PostgreSQL.