프로젝트 소개

NeMo Platform은 NVIDIA의 오픈소스 플랫폼으로, NeMo 라이브러리들을 단일 명령줄 인터페이스, Python SDK, 웹 UI로 통합한다. 프로덕션 AI 에이전트를 출시하는 팀을 대상으로 하며, 더 빠르고 정확하며 안전하게 만드는 데 중점을 둔다. 이 플랫폼은 여러 기능 영역을 제공한다. 보안 에이전트의 경우 콘텐츠 안전성, 탈옥 탐지, PII 익명화를 위한 가드레일과 레드팀 테스트용 Auditor, 학습 데이터용 Anonymizer를 포함한다. 평가의 경우 LLM-as-judge, 결정론적, 에이전틱, RAG 벤치마크를 지원하며, 회귀 테스트를 위한 Harbor 기반 평가 스위트를 제공한다. 튜닝 기능은 스킬 최적화, 프롬프트 및 하이퍼파라미터 튜닝, Switchyard 모델 라우팅을 다룬다. 에이전트 구축은 LangGraph 기반 에이전트를 위한 NVIDIA NeMo Agent Toolkit을 사용하며, Inference Gateway, Secrets, Files, Entity Store, Jobs와 같은 공유 인프라가 뒷받침한다. Data Designer 구성 요소는 학습 또는 평가용 합성 데이터를 생성한다. 설치는 uv를 사용하여 PyPI에서 가능하며, 전역 `nemo` 명령을 제공한다. 개발용으로는 소스 체크아웃이 지원되며, 툴체인 관리에는 Flox가 권장된다. `nemo setup` 명령은 로컬 서비스를 시작하고, LLM 제공자를 등록하고, 모델을 탐색하고, 에이전트 스킬을 설치하며, 샘플 계산기 에이전트를 배포할 수 있다. 이 플랫폼은 또한 추론 게이트웨이를 통한 OpenAI 호환 채팅 완성 엔드포인트를 포함한 REST API를 노출한다. 채팅, 모니터링, 최적화 제안을 위한 브라우저 UI인 NeMo Studio가 알파 구성 요소로 포함되어 있다. CLI가 기본 인터페이스로 유지된다. 스킬은 Claude Code, Cursor, Codex, OpenCode와 같은 코딩 에이전트에 설치할 수 있으며, 에이전트 스캐폴딩, 평가 실행, 가드레일 추가, 배포 최적화와 같은 작업을 가능하게 한다. 이 프로젝트는 Apache 2.0 라이선스로 제공되며 Python 3.12-3.13을 지원한다. 문서에는 설정, CLI 및 API 참조, 텔레메트리 및 개인정보 보호 제어가 포함된다.