kuberay

KubeRayは、Kubernetes上でのRayアプリケーションのデプロイと管理を簡素化するために設計されたオープンソースのKubernetesオペレーターです。3つの主要なカスタムリソース定義（CRD）を提供します。RayClusterはRayクラスターのライフサイクル管理（作成、削除、オートスケーリング、フォールトトレランスを含む）、RayJobはジョブ投入とクラスタークリーンアップの自動化、RayServiceはRay Serveデプロイメントグラフによるゼロダウンタイムアップグレードと高可用性を実現します。エコシステムには、ワークフローを簡素化するkubectlプラグイン、設定を抽象化するAPIサーバー、リソース管理のための実験的ダッシュボードなどのオプションツールが含まれます。KubeRayはKubernetesの可観測性ツール（例：Prometheus、Grafana）、キューイングシステム（例：Volcano、Kueue）、イングレスコントローラーと統合され、Google、Spotify、Airbnbなどの企業でスケーラブルなAI/MLワークロードのために本番環境で使用されています。