这个项目能做什么

NeMo Helix 是 NVIDIA 推出的统一平台,将 NeMo 代理库整合到单一 CLI、Python SDK 和基于浏览器的 UI 之下。其目标是让生产代理更快、更准确、更安全。 关键能力包括: - 安全代理:内容安全护栏、越狱检测、PII 脱敏、训练数据匿名化,以及通过 garak 实现自动化红队测试。 - 评估代理:LLM 作为评判者的评分、确定性和代理性基准测试、RAG 评估,以及由 Harbor 支持的回归测试套件。 - 调优代理:技能优化、提示词和超参数调优,以及用于性能提升的 Switchyard 模型路由。 - 构建代理:基于 NVIDIA NeMo Agent Toolkit (NAT) 构建 LangGraph 代理,并共享基础设施,包括推理网关、密钥管理、文件存储、实体存储和作业服务。 - 合成数据:Data Designer 用于生成训练和评估数据。 - NeMo Studio:浏览器 UI(目前为 alpha 版本),用于聊天、监控和查看优化建议。CLI 仍是主要交互界面。 安装需使用 Python 3.12-3.14 和 uv,并需要来自受支持推理提供商(NVIDIA Build、OpenAI、Anthropic、Google Gemini 或本地 Ollama 实例)的 API 密钥。`nemo setup` 命令可引导本地服务、注册您的 LLM 提供商、发现模型、安装代理技能,并可部署一个示例计算器代理。 Claude Code、Cursor、Codex 和 OpenCode 等编码代理通过可安装的 NeMo 技能获得原生支持。平台服务在 localhost:8080 上提供 REST API,用于推理和管理操作。 许可证:Apache 2.0。