elygate

Bifrost es un gateway de IA de alto rendimiento diseñado para unificar el acceso a más de 23 proveedores de IA —incluidos OpenAI, Anthropic, AWS Bedrock, Google Vertex, Azure y otros— a través de una única API compatible con OpenAI. Elimina la necesidad de Redis aprovechando Bun y PostgreSQL 18, ofreciendo funciones como caché semántico, facturación O(1), auto-particionamiento y failover automático. Los benchmarks muestran que solo añade 11 μs de sobrecarga por solicitud a 5k RPS, con tasa de éxito del 100% y tiempos de espera en cola submicrosegundos. El despliegue está simplificado: los usuarios pueden iniciar localmente mediante NPX o Docker en menos de un minuto, luego configurar a través de una interfaz web integrada. Ofrece reemplazos de SDK plug-in para OpenAI, Anthropic y Google GenAI con cambios de URL en una sola línea. Las capacidades avanzadas incluyen Model Context Protocol (MCP) para integración de herramientas externas, soporte multimodal (texto, imágenes, audio), plugins personalizados, gobernanza con claves virtuales, gestión de presupuestos, aprovisionamiento de usuarios OIDC y observabilidad mediante Prometheus y trazado distribuido. La arquitectura es modular, con componentes para proveedores, almacenamiento de configuración, transporte HTTP, UI y plugins extensibles. Los despliegues empresariales desbloquean clustering, balanceo de carga adaptativo, guardrails y gestión de secretos. La documentación cubre configuración, integraciones con LangChain, LiteLLM y otras herramientas, además de benchmarks de rendimiento y guías de contribución. Con licencia Apache 2.0, creado por Maxim.