Sobre el proyecto
Este proyecto proporciona una API REST unificada que abstrae múltiples proveedores de servicios de IA — incluidos Ollama, OpenAI, Google Gemini y Hugging Face — detrás de una única interfaz consistente. Permite a los desarrolladores cambiar o combinar proveedores sin modificar el código del cliente. La API admite generación de texto, completado de chat, prompts basados en imágenes (multimodal) e incrustaciones (embeddings). Las características incluyen autenticación opcional mediante clave API, respuestas en tiempo real con streaming, enrutamiento automático de proveedores y documentación OpenAPI autogenerada. Está diseñado para un despliegue sencillo utilizando Docker Compose o ejecución local de Python. La configuración se gestiona mediante variables de entorno, permitiendo activar/desactivar proveedores individuales y establecer parámetros específicos del modelo. El sistema también expone endpoints de verificación de estado y listado de modelos. La arquitectura extensible permite añadir nuevos proveedores. Los comandos de gestión (a través de Makefile) simplifican las operaciones del ciclo de vida como iniciar, detener, ver logs y acceso a la shell. Con licencia MIT.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.