这个项目能做什么

NeMo平台是NVIDIA推出的开源平台,将NeMo库整合到统一的命令行界面、Python SDK和Web UI中。它面向交付生产级AI智能体的团队,重点在于使其更快、更准确、更安全。 该平台提供多个能力领域。对于安全智能体,它包含用于内容安全、越狱检测和PII脱敏的护栏,以及用于红队测试的Auditor和用于训练数据的Anonymizer。对于评估,它支持LLM作为评判者、确定性、智能体和RAG基准测试,并配有Harbor支持的评估套件用于回归测试。调优功能涵盖技能优化、提示词和超参数调优,以及Switchyard模型路由。智能体构建使用基于LangGraph的NVIDIA NeMo Agent Toolkit,并由共享基础设施(如推理网关、密钥、文件、实体存储和作业)提供支持。Data Designer组件可生成用于训练或评估的合成数据。 可通过PyPI使用uv进行安装,并提供全局`nemo`命令。支持源码检出用于开发,推荐使用Flox进行工具链管理。`nemo setup`命令可启动本地服务、注册LLM提供商、发现模型、安装智能体技能,并可部署示例计算器智能体。该平台还提供REST API,包括通过推理网关提供的兼容OpenAI的聊天补全端点。 NeMo Studio(用于聊天、监控和优化建议的浏览器UI)作为alpha组件包含在内。CLI仍是主要界面。技能可安装到Claude Code、Cursor、Codex和OpenCode等编码智能体中,支持搭建智能体、运行评估、添加护栏和优化部署等任务。 该项目采用Apache 2.0许可证,支持Python 3.12-3.13。文档涵盖设置、CLI和API参考,以及遥测和隐私控制。