Sobre o projeto
NeMo Helix é uma plataforma unificada da NVIDIA que consolida as bibliotecas de agentes NeMo sob uma única CLI, SDK Python e interface baseada em navegador. Seu objetivo é tornar agentes de produção mais rápidos, precisos e seguros.
Principais capacidades incluem:
- Agentes seguros: guardrails de segurança de conteúdo, detecção de jailbreak, redação de PII, anonimização para dados de treinamento e red-teaming automatizado via garak.
- Avaliar agentes: pontuação LLM-como-juiz, benchmarks determinísticos e agenticos, avaliação de RAG e suítes de teste de regressão com suporte Harbor.
- Ajustar agentes: otimização de habilidades, ajuste de prompts e hiperparâmetros e roteamento de modelos Switchyard para melhoria de desempenho.
- Construir agentes: baseado no NVIDIA NeMo Agent Toolkit (NAT) para agentes baseados em LangGraph, com infraestrutura compartilhada incluindo Gateway de Inferência, gerenciamento de Segredos, Armazenamento de Arquivos, Armazenamento de Entidades e serviço de Jobs.
- Dados sintéticos: Data Designer para gerar dados de treinamento e avaliação.
- NeMo Studio: uma interface de navegador (atualmente alfa) para chat, monitoramento e revisão de sugestões de otimização. A CLI permanece como superfície de interação principal.
A instalação é via Python 3.12-3.14 usando uv, exigindo uma chave de API de um provedor de inferência suportado (NVIDIA Build, OpenAI, Anthropic, Google Gemini ou uma instância local Ollama). O comando `nemo setup` inicializa serviços locais, registra seu provedor de LLM, descobre modelos, instala habilidades de agente e pode implantar um agente de calculadora de exemplo.
Agentes de codificação como Claude Code, Cursor, Codex e OpenCode são suportados nativamente por meio de habilidades NeMo instaláveis. Os serviços da plataforma expõem uma API REST em localhost:8080 para operações de inferência e gerenciamento.
Licença: Apache 2.0.
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.