Sobre el proyecto
New API es una pasarela de API de IA diseñada para la autenticación a nivel de organización, la gestión de modelos múltiples y el análisis de uso. Proporciona una interfaz unificada para acceder a varios LLM, incluidos OpenAI, Claude y Google Gemini, así como soporte para Midjourney-Proxy y Suno-API.
Las capacidades clave incluyen:
- Formato de API Unificado: Soporta formatos compatibles con OpenAI, Claude Messages y Google Gemini, con conversión integrada entre ellos.
- Gestión de Activos: Cuenta con una interfaz de usuario moderna con un tablero de datos para análisis estadísticos, agrupación de tokens y restricciones de modelos.
- Facturación y Contabilidad: Soporta recargas internas, asignación de cuotas y contabilidad de costos basada en el uso por solicitud y aciertos de caché.
- Seguridad y Autenticación: Integra autenticación unificada OIDC e inicios de sesión de terceros a través de Discord, Telegram y LinuxDO.
- Enrutamiento Inteligente: Implementa selección aleatoria ponderada de canales, reintentos automáticos en caso de falla y limitación de tasa a nivel de usuario.
- Despliegue: Soporta Docker y Docker Compose, con compatibilidad de base de datos para SQLite, MySQL y PostgreSQL.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.