ai-gateway

AI Gateway es una puerta de enlace API ligera y autoalojable diseñada para ser compatible con la interfaz de OpenAI. Permite a los usuarios definir rutas mapeadas a nombres de modelos específicos utilizados por sus aplicaciones, y luego intenta realizar solicitudes a través de los proveedores configurados en secuencia hasta que una tenga éxito, lo que ayuda a reducir los fallos debidos a límites de tasa o interrupciones. Admite despliegue mediante Docker, servicios de systemd y compilaciones de binarios locales. La configuración se gestiona a través de YAML con sustitución de variables de entorno, lo que permite una configuración flexible de proveedores (por ejemplo, Cerebras, OpenRouter) y tiempos de espera por ruta. Incluye adaptadores de solicitudes para correcciones de compatibilidad (como la relajación de tool_choice o la inyección de esquemas JSON), rotación de endpoints ante errores transitorios y endpoints de diagnóstico. La autenticación utiliza claves API; la telemetría a través de OTLP/HTTP es opcional. Los valores predeterminados de seguridad incluyen la ejecución sin privilegios de root y registros redactados. Es ideal para desarrolladores que integran LLMs en aplicaciones como n8n mientras mantienen la resiliencia y el control sobre los fallbacks de los proveedores.