Sobre el proyecto

El multi-model-llm-gateway proporciona un punto de entrada único para interactuar con varios proveedores de Large Language Model (LLM). Está diseñado para aumentar la confiabilidad y la eficiencia a través de dos mecanismos principales: fallback, que garantiza la continuidad del servicio si un proveedor falla, y load balancing, que distribuye las solicitudes entre los proveedores disponibles.