higress

Higress é um gateway de API cloud-native construído sobre Istio e Envoy, projetado como um gateway AI-native que unifica o gerenciamento de APIs de LLM, a hospedagem de servidores MCP (Model Context Protocol) e as funções tradicionais de gateway de API. Originou-se na Alibaba para resolver a interrupção de conexões de longa duração durante recarregamentos do gateway e melhorar o balanceamento de carga de gRPC/Dubbo, e atualmente é desenvolvido como um projeto CNCF Sandbox neutro em relação a fornecedores. As capacidades principais incluem: (1) AI Gateway — conecta-se a todos os principais provedores de modelos LLM por meio de um protocolo unificado, com observabilidade de IA, balanceamento de carga entre múltiplos modelos, limitação de taxa por tokens e cache; (2) Hospedagem de MCP Server — hospeda MCP Servers por meio de seu mecanismo de plugins, permitindo que Agentes de IA chamem ferramentas e serviços com autenticação unificada, limitação de taxa granular, logs de auditoria e atualizações dinâmicas sem queda de conexão; (3) Kubernetes Ingress Controller — listado na documentação oficial do Kubernetes, compatível com anotações do NGINX Ingress, suporta o padrão Gateway API e reduz a sobrecarga de recursos em comparação com o ingress-nginx; (4) Gateway de Microsserviços — descobre serviços no Nacos, ZooKeeper, Consul, Eureka e integra-se com Dubbo, Nacos e Sentinel; (5) Gateway de Segurança — suporta WAF, key-auth, hmac-auth, jwt-auth, basic-auth e OIDC. Principais vantagens técnicas: nível de produção com mais de 2 anos de validação na Alibaba, suportando centenas de milhares de requisições por segundo; processamento verdadeiramente em streaming dos corpos de requisição/resposta, incluindo SSE para cargas de trabalho de IA; extensibilidade de plugins Wasm em Go/Rust/JS com isolamento em sandbox e atualizações a quente sem perda de tráfego; console de UI pronto para uso; integração com Let's Encrypt para gerenciamento automático de certificados; e implantação com um único comando Docker para desenvolvedores individuais. A instalação é simples via Docker (portas 8001 para UI, 8080 para HTTP, 8443 para HTTPS) ou Helm no Kubernetes, com espelhos de registro regionais configuráveis. O projeto oferece uma rica biblioteca oficial de plugins cobrindo IA, gerenciamento de tráfego e segurança, atendendo a mais de 90% dos requisitos de cenários de negócios. Os repositórios relacionados incluem Higress Console, Higress Standalone, Plugin Server e Wasm Plugin Golang SDK.