kuberay

KubeRay est un opérateur Kubernetes open-source conçu pour simplifier le déploiement et la gestion d'applications Ray sur Kubernetes. Il fournit trois définitions de ressources personnalisées (CRD) principales : RayCluster pour gérer le cycle de vie des clusters Ray (y compris la création, la suppression, l'autoscaling et la tolérance aux pannes), RayJob pour automatiser la soumission de travaux et le nettoyage des clusters, et RayService pour les mises à niveau sans interruption de service et la haute disponibilité avec les graphes de déploiement Ray Serve. L'écosystème comprend des outils optionnels tels qu'un plugin kubectl pour des flux de travail simplifiés, un serveur API pour l'abstraction de configuration et un tableau de bord expérimental pour la gestion des ressources. KubeRay s'intègre aux outils d'observabilité Kubernetes (par exemple, Prometheus, Grafana), aux systèmes de file d'attente (par exemple, Volcano, Kueue) et aux contrôleurs d'entrée, et est utilisé en production par des entreprises comme Google, Spotify et Airbnb pour des charges de travail IA/ML évolutives.