higress

Higress es una puerta de enlace API nativa de la nube construida sobre Istio y Envoy, diseñada como una puerta de enlace nativa de IA que unifica la gestión de API de LLM, el alojamiento de servidores MCP (Model Context Protocol) y las funciones tradicionales de puerta de enlace API. Se originó en Alibaba para abordar la interrupción de conexiones de larga duración durante las recargas de la puerta de enlace y mejorar el balanceo de carga de gRPC/Dubbo, y ahora se desarrolla como un proyecto CNCF Sandbox neutral respecto a proveedores. Las capacidades principales incluyen: (1) Puerta de enlace de IA — se conecta a todos los principales proveedores de modelos LLM mediante un protocolo unificado con observabilidad de IA, balanceo de carga multimodelo, limitación de tasa por tokens y almacenamiento en caché; (2) Alojamiento de servidores MCP — aloja servidores MCP a través de su mecanismo de plugins, lo que permite a los agentes de IA llamar herramientas y servicios con autenticación unificada, limitación de tasa granular, registros de auditoría y actualizaciones dinámicas sin caídas de conexión; (3) Controlador de Ingress de Kubernetes — incluido en la documentación oficial de Kubernetes, compatible con las anotaciones de NGINX Ingress, admite el estándar Gateway API y reduce la sobrecarga de recursos en comparación con ingress-nginx; (4) Puerta de enlace de microservicios — descubre servicios desde Nacos, ZooKeeper, Consul, Eureka y se integra con Dubbo, Nacos y Sentinel; (5) Puerta de enlace de seguridad — admite WAF, key-auth, hmac-auth, jwt-auth, basic-auth y OIDC. Ventajas técnicas clave: grado de producción con más de 2 años de validación en Alibaba soportando cientos de miles de solicitudes por segundo; procesamiento de flujo verdadero de cuerpos de solicitud/respuesta, incluido SSE para cargas de trabajo de IA; extensibilidad mediante plugins Wasm en Go/Rust/JS con aislamiento de sandbox y actualizaciones en caliente sin pérdida de tráfico; consola de interfaz de usuario lista para usar; integración con Let's Encrypt para la gestión automática de certificados; y despliegue con un solo comando Docker para desarrolladores individuales. La instalación es sencilla mediante Docker (puertos 8001 para la interfaz de usuario, 8080 para HTTP, 8443 para HTTPS) o Helm en Kubernetes con espejos de registro regionales configurables. El proyecto proporciona una rica biblioteca oficial de plugins que cubre IA, gestión de tráfico y seguridad, satisfaciendo más del 90% de los requisitos de escenarios empresariales. Los repositorios relacionados incluyen Higress Console, Higress Standalone, Plugin Server y Wasm Plugin Golang SDK.