simple-router

Simple Router es una puerta de enlace ligera y autoalojada construida con Next.js que permite a los usuarios acceder a varios proveedores de IA —incluyendo OpenAI, Gemini, Anthropic, Groq, OpenRouter, Alibaba DashScope y servidores locales como Ollama o vLLM— a través de un formato de API unificado compatible con OpenAI. Las capacidades clave incluyen: - Endpoints de API Unificados: Soporta chat completions, respuestas, embeddings, generación de imágenes y listados de modelos, lo que lo hace compatible con los SDK de OpenAI existentes. - Enrutamiento Avanzado: Soporta múltiples estrategias de enrutamiento como fijo, aleatorio, round-robin, ponderado y failover por prioridad. - Modelos Virtuales: Las claves de API pueden actuar como modelos virtuales, permitiendo a los administradores definir listas de modelos específicas y estrategias de enrutamiento para diferentes proyectos. - Herramientas de Gestión: Incluye un panel de administración para monitorear métricas, gestionar proveedores y claves, rastrear analíticas de uso y ver registros buscables. - Limitación de Tasa y Seguimiento: Proporciona límites de tasa por clave (solicitudes/tokens por minuto/día) y estimación de costos basada en el recuento de tokens y la latencia. - Seguridad: Cuenta con inicio de sesión basado en sesiones, tokens de API JWT y cifrado AES-256-GCM para las claves de API en reposo. - Soporte de Streaming: Soporta Server-Sent Events (SSE) para chat completions, incluyendo la conversión de formato para proveedores como Anthropic.