Sobre o projeto

O multi-model-llm-gateway fornece um ponto de entrada único para interagir com vários provedores de Large Language Model (LLM). Ele foi projetado para aumentar a confiabilidade e a eficiência por meio de dois mecanismos principais: fallback, que garante a continuidade do serviço se um provedor falhar, e load balancing, que distribui as solicitações entre os provedores disponíveis.