Об этом проекте

AI Cluster Runtime (AICR) — это набор инструментов от NVIDIA для развёртывания Kubernetes-кластеров с ускорением на GPU. Он фиксирует проверенные комбинации драйверов, операторов, ядер и системных конфигураций и публикует их в виде версионно зафиксированных рецептов. Эти рецепты являются воспроизводимыми артефактами для Helm, Argo CD, Flux и Helmfile. Ключевые возможности: - CLI `aicr`: единый бинарный файл для snapshot, recipe, bundle, validate, verify, diff и управления доверием. - API-сервер (`aicrd`): REST API для интеграции с CI/CD или сред с изолированной сетью. - Библиотека Go: стабильный SDK для внутрипроцессных потребителей. - Агент снимков: Kubernetes Job, который фиксирует состояние работающего кластера в ConfigMap. - Мультидеплойерные пакеты: преобразование рецептов в артефакты Helm, Argo CD, Flux или Helmfile. - Многофазная валидация: фазы развёртывания, производительности и соответствия. - Обнаружение дрейфа: `aicr diff` сравнивает снимки. - Безопасность цепочки поставок: происхождение SLSA Build Level 3, подписанные SBOM и аттестации. Поддерживаемые компоненты включают стек GPU (GPU Operator, DRA GPU Driver, Network Operator, NFD, NVSentinel), интеграцию с облаком (AWS EFA, AWS EBS CSI, GKE NCCL TCPXO), настройку узлов, наблюдаемость, платформы обучения (Kubeflow Trainer, Slinky Slurm Operator, KAI Scheduler, Kueue) и платформы инференса (Dynamo, Grove, NIM Operator, Agent Gateway). Поддерживаемые среды охватывают сервисы, такие как AKS, EKS, GKE, OCP, RKE2 и т. д.; ускорители, такие как A100, H100, B200, GB200 и т. д.; операционные системы, такие как Ubuntu, RHEL, Talos и т. д.; назначение рабочих нагрузок (Inference, Training); и платформы (Dynamo, Kubeflow, NIM, Run:ai, Slurm). AICR не является дистрибутивом Kubernetes, средством провижининга кластеров, управляемой контрольной плоскостью или универсальной платформой управления конфигурацией. Это генератор конфигурации кластера, который создаёт артефакты конфигурации среды выполнения для ваших инструментов развёртывания и может проверять, что конфигурация была корректно материализована. Документация доступна по адресу docs.nvidia.com/aicr. Проект распространяется под лицензией Apache 2.0 и приветствует вклад сообщества.