nemo-platform

NeMo Platform es una plataforma de código abierto de NVIDIA que consolida las bibliotecas NeMo en una única interfaz de línea de comandos, SDK de Python e interfaz web. Está dirigida a equipos que implementan agentes de IA en producción, con el objetivo de hacerlos más rápidos, precisos y seguros. La plataforma ofrece varias áreas de capacidad. Para agentes seguros, incluye barreras de protección para la seguridad del contenido, detección de jailbreak y redacción de PII, además de un Auditor para red-teaming y un Anonymizer para datos de entrenamiento. Para la evaluación, admite benchmarks LLM-as-judge, deterministas, agénticos y RAG, con suites de evaluación respaldadas por Harbor para pruebas de regresión. Las funciones de ajuste cubren la optimización de habilidades, el ajuste de prompts e hiperparámetros y el enrutamiento de modelos Switchyard. La construcción de agentes utiliza el NVIDIA NeMo Agent Toolkit para agentes basados en LangGraph, respaldados por infraestructura compartida como Inference Gateway, Secrets, Files, Entity Store y Jobs. Un componente Data Designer genera datos sintéticos para entrenamiento o evaluación. La instalación está disponible desde PyPI usando uv, con un comando global `nemo`. Se admite una copia del código fuente para desarrollo, con Flox recomendado para la gestión de la cadena de herramientas. El comando `nemo setup` inicia los servicios locales, registra un proveedor de LLM, descubre modelos, instala habilidades de agente y puede desplegar un agente calculadora de ejemplo. La plataforma también expone API REST, incluido un endpoint de completaciones de chat compatible con OpenAI a través de la puerta de enlace de inferencia. NeMo Studio, una interfaz de navegador para chat, monitoreo y sugerencias de optimización, se incluye como componente alfa. La CLI sigue siendo la interfaz principal. Las habilidades se pueden instalar en agentes de codificación como Claude Code, Cursor, Codex y OpenCode, lo que permite tareas como crear andamiaje de agentes, ejecutar evaluaciones, agregar barreras de protección y optimizar implementaciones. El proyecto está licenciado bajo Apache 2.0 y es compatible con Python 3.12-3.13. La documentación cubre la configuración, las referencias de CLI y API, y los controles de telemetría y privacidad.