Об этом проекте

NeMo Platform — это платформа с открытым исходным кодом от NVIDIA, которая объединяет библиотеки NeMo в единый интерфейс командной строки, Python SDK и веб-интерфейс. Она ориентирована на команды, выпускающие производственных ИИ-агентов, с акцентом на повышение их скорости, точности и безопасности. Платформа предоставляет несколько областей возможностей. Для безопасных агентов она включает защитные механизмы для безопасности контента, обнаружения попыток взлома и редактирования персональных данных, а также Auditor для red-teaming и Anonymizer для обучающих данных. Для оценки поддерживаются бенчмарки LLM-as-judge, детерминированные, агентные и RAG, а также наборы оценок на базе Harbor для регрессионного тестирования. Возможности настройки охватывают оптимизацию навыков, настройку промптов и гиперпараметров, а также маршрутизацию моделей Switchyard. Создание агентов использует NVIDIA NeMo Agent Toolkit для агентов на основе LangGraph, поддерживаемых общей инфраструктурой, такой как Inference Gateway, Secrets, Files, Entity Store и Jobs. Компонент Data Designer генерирует синтетические данные для обучения или оценки. Установка доступна из PyPI с использованием uv, с глобальной командой `nemo`. Для разработки поддерживается извлечение исходного кода, при этом для управления инструментами рекомендуется Flox. Команда `nemo setup` запускает локальные службы, регистрирует провайдера LLM, обнаруживает модели, устанавливает навыки агента и может развернуть пример агента-калькулятора. Платформа также предоставляет REST API, включая конечную точку chat completions, совместимую с OpenAI, через inference gateway. NeMo Studio, браузерный интерфейс для чата, мониторинга и предложений по оптимизации, включен как альфа-компонент. CLI остается основным интерфейсом. Навыки можно устанавливать в агентов кодирования, таких как Claude Code, Cursor, Codex и OpenCode, что позволяет выполнять задачи, такие как создание каркасов агентов, запуск оценок, добавление защитных механизмов и оптимизация развертываний. Проект лицензирован под Apache 2.0 и поддерживает Python 3.12-3.13. Документация охватывает настройку, справочники CLI и API, а также средства управления телеметрией и конфиденциальностью.