agentgateway

Agentgateway est un proxy open source construit sur des protocoles natifs de l'IA (MCP et A2A) qui fournit une sécurité, une observabilité et une gouvernance immédiates pour la communication agent-LLM, agent-outil et agent-agent, quel que soit le framework et l'environnement. Les fonctionnalités clés incluent : - LLM Gateway : achemine le trafic vers les principaux fournisseurs de LLM (OpenAI, Anthropic, Gemini, Bedrock, etc.) via une API unifiée compatible OpenAI avec contrôles budgétaires, enrichissement des prompts, équilibrage de charge et basculement. - MCP Gateway : connecte les LLM aux outils et sources de données externes via MCP, avec prise en charge de la fédération d'outils, des transports stdio/HTTP/SSE/Streamable HTTP, de l'intégration OpenAPI et de l'authentification OAuth. - A2A Gateway : permet une communication sécurisée entre agents via A2A, avec découverte des capacités, négociation des modalités et collaboration sur les tâches. - Inference Routing : routage intelligent vers des modèles auto-hébergés à l'aide des extensions Kubernetes Inference Gateway, avec des décisions fondées sur l'utilisation du GPU, le cache KV, les adaptateurs LoRA et la profondeur de file d'attente. - Guardrails : filtrage de contenu multicouche avec regex, modération OpenAI, AWS Bedrock Guardrails, Google Model Armor et webhooks personnalisés. - Sécurité et observabilité : authentification (JWT, clés API, OAuth), RBAC granulaire avec moteur de politique CEL, limitation de débit, TLS et métriques/journaux/traces OpenTelemetry. La prise en main est disponible via un démarrage rapide autonome ou un démarrage rapide Kubernetes. Une documentation est fournie pour les déploiements autonomes et Kubernetes. Le projet inclut une interface utilisateur intégrée pour explorer les connexions agent-agent et agent-outil. Il s'agit d'un projet de la Linux Foundation qui accueille favorablement les contributions.