nemo-helix

NeMo Helix는 NVIDIA의 통합 플랫폼으로, NeMo 에이전트 라이브러리를 단일 CLI, Python SDK, 브라우저 기반 UI로 통합합니다. 목적은 프로덕션 에이전트를 더 빠르고 정확하며 안전하게 만드는 것입니다. 주요 기능은 다음과 같습니다: - 보안 에이전트: 콘텐츠 안전 가드레일, 탈옥 탐지, PII 삭제, 학습 데이터 익명화, garak을 통한 자동 레드팀 테스트. - 에이전트 평가: LLM-as-judge 점수화, 결정론적 및 에이전틱 벤치마크, RAG 평가, Harbor 기반 회귀 테스트 스위트. - 에이전트 튜닝: 스킬 최적화, 프롬프트 및 하이퍼파라미터 튜닝, 성능 개선을 위한 Switchyard 모델 라우팅. - 에이전트 구축: LangGraph 기반 에이전트를 위한 NVIDIA NeMo Agent Toolkit(NAT) 기반, Inference Gateway, 비밀 관리, 파일 저장소, 엔티티 저장소, 작업 서비스를 포함한 공유 인프라 제공. - 합성 데이터: 학습 및 평가 데이터 생성을 위한 Data Designer. - NeMo Studio: 채팅, 모니터링, 최적화 제안 검토를 위한 브라우저 UI(현재 알파). CLI가 기본 상호작용 인터페이스로 유지됩니다. 설치는 Python 3.12-3.14 및 uv를 통해 이루어지며, 지원되는 추론 제공자(NVIDIA Build, OpenAI, Anthropic, Google Gemini, 또는 로컬 Ollama 인스턴스)의 API 키가 필요합니다. `nemo setup` 명령은 로컬 서비스를 부트스트랩하고, LLM 제공자를 등록하며, 모델을 발견하고, 에이전트 스킬을 설치하며, 샘플 계산기 에이전트를 배포할 수 있습니다. Claude Code, Cursor, Codex, OpenCode와 같은 코딩 에이전트는 설치 가능한 NeMo 스킬을 통해 기본적으로 지원됩니다. 플랫폼 서비스는 추론 및 관리 작업을 위해 localhost:8080에서 REST API를 노출합니다. 라이선스: Apache 2.0.