aicr

AI Cluster Runtime (AICR) 是 NVIDIA 推出的工具集，用于搭建 GPU 加速的 Kubernetes 集群。它记录了驱动程序、算子、内核和系统配置的已知良好组合，并将其发布为版本锁定的配方。这些配方是可复现的工件，适用于 Helm、Argo CD、Flux 和 Helmfile。 主要功能包括： - `aicr` CLI：单一二进制文件，用于 snapshot、recipe、bundle、validate、verify、diff 和信任管理。 - API 服务器（`aicrd`）：用于 CI/CD 集成或气隙环境的 REST API。 - Go 库：面向进程内使用者的稳定 SDK。 - 快照代理：将实时集群状态捕获到 ConfigMap 中的 Kubernetes Job。 - 多部署器捆绑包：将配方渲染为 Helm、Argo CD、Flux 或 Helmfile 工件。 - 多阶段验证：部署、性能和一致性阶段。 - 漂移检测：`aicr diff` 比较快照。 - 供应链安全：SLSA 构建级别 3 来源、签名 SBOM 和证明。 支持的组件包括 GPU 栈（GPU Operator、DRA GPU Driver、Network Operator、NFD、NVSentinel）、云集成（AWS EFA、AWS EBS CSI、GKE NCCL TCPXO）、节点调优、可观测性、训练平台（Kubeflow Trainer、Slinky Slurm Operator、KAI Scheduler、Kueue）和推理平台（Dynamo、Grove、NIM Operator、Agent Gateway）。 支持的环境涵盖 AKS、EKS、GKE、OCP、RKE2 等服务；A100、H100、B200、GB200 等加速器；Ubuntu、RHEL、Talos 等操作系统；工作负载意图（推理、训练）；以及平台（Dynamo、Kubeflow、NIM、Run:ai、Slurm）。 AICR 不是 Kubernetes 发行版、集群配置器、托管控制平面或通用配置管理平台。它是一个集群配置生成器，为您的部署工具生成运行时配置工件，并可以验证配置是否正确实现。 文档可在 docs.nvidia.com/aicr 获取。该项目采用 Apache 2.0 许可证，欢迎贡献。