Sobre o projeto

NeMo Platform é uma plataforma de código aberto da NVIDIA que consolida as bibliotecas NeMo em uma única interface de linha de comando, SDK Python e interface web. Ela é voltada para equipes que enviam agentes de IA de produção, com foco em torná-los mais rápidos, mais precisos e mais seguros. A plataforma oferece várias áreas de capacidade. Para agentes seguros, inclui guardrails para segurança de conteúdo, detecção de jailbreak e redação de PII, além de um Auditor para red-teaming e um Anonymizer para dados de treinamento. Para avaliação, suporta benchmarks LLM-as-judge, determinísticos, agênticos e RAG, com suítes de avaliação apoiadas pelo Harbor para testes de regressão. Os recursos de ajuste abrangem otimização de habilidades, ajuste de prompts e hiperparâmetros e roteamento de modelos Switchyard. A construção de agentes usa o NVIDIA NeMo Agent Toolkit para agentes baseados em LangGraph, apoiados por infraestrutura compartilhada, como Inference Gateway, Secrets, Files, Entity Store e Jobs. Um componente Data Designer gera dados sintéticos para treinamento ou avaliação. A instalação está disponível no PyPI usando uv, com um comando global `nemo`. Um checkout do código-fonte é suportado para desenvolvimento, com Flox recomendado para gerenciamento de toolchain. O comando `nemo setup` inicia serviços locais, registra um provedor de LLM, descobre modelos, instala habilidades de agente e pode implantar um agente de calculadora de exemplo. A plataforma também expõe APIs REST, incluindo um endpoint de chat completions compatível com OpenAI por meio do inference gateway. O NeMo Studio, uma interface de navegador para chat, monitoramento e sugestões de otimização, está incluído como um componente alfa. A CLI continua sendo a interface principal. Habilidades podem ser instaladas em agentes de codificação como Claude Code, Cursor, Codex e OpenCode, permitindo tarefas como scaffolding de agentes, execução de avaliações, adição de guardrails e otimização de implantações. O projeto é licenciado sob Apache 2.0 e suporta Python 3.12-3.13. A documentação cobre configuração, referências de CLI e API e controles de telemetria e privacidade.