Sobre el proyecto

AI Gateway es una pasarela API de alto rendimiento y escalabilidad para modelos de inteligencia artificial, que ofrece un punto de acceso unificado para consultar múltiples servicios de modelos grandes. Es compatible con el formato de la API de OpenAI, permitiendo a los desarrolladores conectar con varios proveedores mediante un único código: OpenAI, Anthropic (Claude), Tongyi Qianwen (DashScope), Ollama y otros. Soporta funcionalidades multimodales completas: Chat, Visión, Generación de Imágenes, Reconocimiento de Voz a Texto, Text-to-Speech y Embeddings. El sistema está construido sobre Go + Gin, lo que garantiza una capacidad elevada de procesamiento concurrente y un diseño sin estado que facilita la expansión horizontal. Incluye métricas Prometheus, registros estructurados, trazado de peticiones, limitación por bucket de tokens y gestión de cuotas para API Keys. También admite backends de almacenamiento MySQL/PostgreSQL junto con caché en memoria o Redis. Ofrece funcionalidades como verificación de estado, gestión de API Keys y estadísticas de uso, facilitando tanto a empresas como particulares el despliegue de servicios de IA privatizados. La estructura del proyecto es clara y permite a los desarrolladores añadir nuevos proveedores con facilidad. Resulta ideal para escenarios que requieren acceder de forma unificada a múltiples servicios de IA, con control de tráfico, monitoreo y gestión de costes.