Sobre el proyecto

Omni Gateway Local es una pasarela API ligera diseñada para simplificar las interacciones con múltiples proveedores de modelos de lenguaje grande (LLM). Presenta una única interfaz estandarizada compatible con OpenAI en /v1/chat/completions, permitiendo a los desarrolladores usar el mismo código cliente sin importar si el modelo subyacente se ejecuta localmente (p. ej., mediante Ollama) o de forma remota (p. ej., OpenAI, Anthropic, Gemini). La pasarela enruta dinámicamente las solicitudes según el parámetro 'model' en la petición. Construida sobre FastAPI y LiteLLM, soporta streaming mediante Server-Sent Events (SSE) y requiere una configuración mínima: instalar con pip, establecer variables de entorno para las claves API y arrancar el servidor. Es ideal para desarrolladores que experimentan con diferentes modelos, construyen aplicaciones de IA locales o buscan una abstracción sobre las APIs específicas de cada proveedor. Licencia MIT.