sie

SIE (Superlinked Inference Engine) es un servidor de inferencia de código abierto y un clúster de producción diseñado para ejecutar todos los modelos que un agente de IA necesita desde un único sistema autoalojado. Reemplaza la necesidad de servidores de modelos separados por tarea al proporcionar una API unificada que sirve más de 100 modelos, cargándolos bajo demanda. Las características clave incluyen: - **API compatible con OpenAI**: Migración directa con endpoints como `/v1/embeddings`, `/v1/chat/completions`, `/v1/completions` y `/v1/responses`. - **Catálogo de modelos preconfigurado**: Incluye modelos como Stella, SPLADE, Qwen3, GLiNER, SigLIP y más, con modelos de embedding y recuperación evaluados en MTEB. - **Servicio de múltiples modelos**: Sirve varios modelos simultáneamente con carga bajo demanda y evicción LRU. - **Listo para producción**: Incluye configuraciones de despliegue para Kubernetes y Helm, incluyendo una puerta de enlace de balanceo de carga, autoescalado KEDA y paneles de Grafana. - **Integraciones**: Funciona con LangChain, LlamaIndex, Haystack, DSPy, CrewAI, Chroma, Qdrant, Weaviate y LanceDB. SIE maneja una amplia gama de tareas, incluyendo búsqueda (embedding, coincidencia, reordenamiento), conversión de documentos a markdown (PDFs, archivos de Office, escaneos), salida estructurada (extracción de JSON válido por esquema), toma de decisiones (respuestas de elección, sí/no, puntuación), clasificación, seguridad de contenido, ejecución de bucles de agente, traducción (más de 400 idiomas), subtitulado de imágenes y detección de objetos, y transcripción de audio. Las opciones de inicio rápido incluyen instalación nativa vía pip para macOS/Linux, o imágenes Docker para GPU NVIDIA (con imágenes específicas por familia de modelos) y CPU. El SDK está disponible para Python (`sie-sdk`) y TypeScript (`@superlinked/sie-sdk`). Para producción, SIE ofrece módulos de Terraform para Alibaba Cloud ACK, AWS EKS, Azure AKS y Google GKE, junto con gráficos de Helm para despliegues de clúster reproducibles. El proyecto tiene licencia Apache 2.0 y recopila telemetría de uso anónima (desactivable mediante variables de entorno).