À propos du projet

NeMo Helix est une plateforme unifiée d'NVIDIA qui consolide les bibliothèques d'agents NeMo sous un CLI unique, un SDK Python et une interface utilisateur basée sur navigateur. Son objectif est de rendre les agents de production plus rapides, plus précis et plus sûrs. Les principales fonctionnalités incluent : - Agents sécurisés : garde-fous de sécurité du contenu, détection de jailbreak, expurgation des PII, anonymisation des données d'entraînement et red-teaming automatisé via garak. - Évaluation des agents : notation LLM-as-judge, benchmarks déterministes et agentiques, évaluation RAG et suites de tests de régression adossées à Harbor. - Optimisation des agents : optimisation des compétences, réglage des prompts et des hyperparamètres, et routage de modèles Switchyard pour améliorer les performances. - Construction d'agents : basé sur le NVIDIA NeMo Agent Toolkit (NAT) pour les agents LangGraph, avec une infrastructure partagée incluant une Inference Gateway, une gestion des Secrets, un File Store, un Entity Store et un service Jobs. - Données synthétiques : Data Designer pour générer des données d'entraînement et d'évaluation. - NeMo Studio : une interface utilisateur navigateur (actuellement en alpha) pour le chat, la surveillance et l'examen des suggestions d'optimisation. Le CLI reste la surface d'interaction principale. L'installation se fait via Python 3.12-3.14 en utilisant uv, nécessitant une clé API d'un fournisseur d'inférence pris en charge (NVIDIA Build, OpenAI, Anthropic, Google Gemini ou une instance locale Ollama). La commande `nemo setup` initialise les services locaux, enregistre votre fournisseur de LLM, détecte les modèles, installe les compétences d'agents et peut déployer un agent calculatrice d'exemple. Les agents de codage tels que Claude Code, Cursor, Codex et OpenCode sont nativement pris en charge via des compétences NeMo installables. Les services de la plateforme exposent une API REST sur localhost:8080 pour les opérations d'inférence et de gestion. Licence : Apache 2.0.