このプロジェクトについて
NeMo Helixは、NVIDIAの統合プラットフォームであり、NeMoエージェントライブラリを単一のCLI、Python SDK、ブラウザベースのUIに統合します。その目的は、本番エージェントをより高速かつ正確で安全にすることです。
主な機能は以下の通りです。
- セキュアなエージェント: コンテンツ安全性ガードレール、脱獄検出、PII編集、トレーニングデータの匿名化、garakによる自動レッドチーミング。
- エージェントの評価: LLM-as-judgeスコアリング、決定的およびエージェント的ベンチマーク、RAG評価、Harborを利用した回帰テストスイート。
- エージェントのチューニング: スキル最適化、プロンプトおよびハイパーパラメータチューニング、パフォーマンス向上のためのSwitchyardモデルルーティング。
- エージェントの構築: LangGraphベースのエージェント向けNVIDIA NeMo Agent Toolkit (NAT)に基づき、Inference Gateway、Secrets管理、File Store、Entity Store、Jobsサービスを含む共有インフラストラクチャを提供。
- 合成データ: トレーニングおよび評価データを生成するためのData Designer。
- NeMo Studio: チャット、モニタリング、最適化提案のレビューのためのブラウザUI(現在アルファ版)。CLIが主要なインタラクション手段です。
インストールはPython 3.12-3.14とuvを使用し、サポートされている推論プロバイダー(NVIDIA Build、OpenAI、Anthropic、Google Gemini、またはローカルOllamaインスタンス)のAPIキーが必要です。`nemo setup`コマンドは、ローカルサービスをブートストラップし、LLMプロバイダーを登録し、モデルを発見し、エージェントスキルをインストールし、サンプルの計算機エージェントをデプロイできます。
Claude Code、Cursor、Codex、OpenCodeなどのコーディングエージェントは、インストール可能なNeMoスキルを通じてネイティブにサポートされています。プラットフォームサービスは、推論および管理操作のためにlocalhost:8080でREST APIを公開します。
ライセンス: Apache 2.0。
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.