elygate

Bifrost é um gateway de IA de alta performance projetado para unificar o acesso a mais de 23 provedores de IA — incluindo OpenAI, Anthropic, AWS Bedrock, Google Vertex, Azure e outros — por meio de uma única API compatível com OpenAI. Elimina a necessidade de Redis aproveitando Bun e PostgreSQL 18, oferecendo recursos como cache semântico, cobrança O(1), partição automática e failover automático. Benchmarks mostram que adiciona apenas 11 μs de sobrecarga por requisição a 5k RPS, com taxa de sucesso de 100% e tempos de fila submicrossegundos. A implantação é simplificada: os usuários podem iniciar localmente via NPX ou Docker em menos de um minuto, depois configurar por meio de uma interface web integrada. Suporta substituições SDK drop-in para OpenAI, Anthropic e Google GenAI com alteração de URL em uma linha. Capacidades avançadas incluem Model Context Protocol (MCP) para integração de ferramentas externas, suporte multimodal (texto, imagens, áudio), plugins personalizados, governança com chaves virtuais, gestão de orçamento, provisionamento OIDC de usuários e observabilidade via Prometheus e distributed tracing. A arquitetura é modular, com componentes para providers, armazenamento de configuração, transporte HTTP, UI e plugins extensíveis. Implantações empresariais desbloqueiam clustering, balanceamento de carga adaptativo, guardrails e gerenciamento de segredos. A documentação cobre configuração, integrações com LangChain, LiteLLM e outros, além de benchmarks de performance e diretrizes de contribuição. Licenciado sob Apache 2.0, desenvolvido por Maxim.