Об этом проекте

KubeRay — это открытый оператор Kubernetes, предназначенный для упрощения развёртывания и управления приложениями Ray в Kubernetes. Он предоставляет три основных определения пользовательских ресурсов (CRD): RayCluster для управления жизненным циклом кластеров Ray (включая создание, удаление, автомасштабирование и отказоустойчивость), RayJob для автоматизации отправки заданий и очистки кластера, а также RayService для обновлений без простоя и высокой доступности с графами развёртывания Ray Serve. Экосистема включает дополнительные инструменты, такие как плагин kubectl для упрощения рабочих процессов, API-сервер для абстракции конфигурации и экспериментальную панель управления для управления ресурсами. KubeRay интегрируется с инструментами наблюдаемости Kubernetes (например, Prometheus, Grafana), системами очередей (например, Volcano, Kueue) и контроллерами ingress, а также используется в производстве такими компаниями, как Google, Spotify и Airbnb, для масштабируемых рабочих нагрузок AI/ML.