skypilot

SkyPilotは、あらゆるAIインフラ上でAIワークロードを実行・管理・スケーリングするためのシステムです。対象とするユーザーは2つあります。任意のインフラ上でジョブを起動するシンプルなインターフェースを求めるAIチームと、スケジューリング、スケーリング、オーケストレーションを備えた統合コントロールプレーンを必要とするインフラチームです。 READMEに記載されている主な機能: - 統合インターフェース: タスクはリソース要件、workdir、セットアップコマンド、実行コマンドとともに一度定義され(YAMLまたはPython API)、利用可能な任意のインフラ上で起動されます。これはベンダーロックインを回避し、プロバイダー間でジョブを移動する方法として提示されています。 - マルチインフラストラクチャ対応: Kubernetes、Slurm、およびAWS、GCP、Azure、OCI、CoreWeave、Nebius、Lambda Cloud、RunPod、Fluidstack、Cudo、Digital Ocean、Paperspace、Cloudflare、IBM、Vast.ai、VMware vSphere、Seeweb、Prime Intellect、Shadeform、Verda Cloud、Crusoeを含む多数のクラウドとプロバイダー。 - プロビジョニングとフェイルオーバー: SkyPilotは利用可能なインフラを検出し、GPU/TPU/CPUをプロビジョニングし、キャパシティエラーが発生した場合に自動的にフェイルオーバーできます。 - ジョブ管理: 多数のジョブのキューイング、実行、自動復旧に加え、アイドルリソースのクリーンアップのための自動停止と共有クラスタ上でのビンパッキング。 - Kubernetesエクスペリエンス: ポッドへのSSH、コードの同期、IDEの接続、ギャングスケジューリング、マルチノードジョブ、マルチクラスタおよびマルチクラウドのコントロールプレーン。 - チーム機能: APIサーバー経由のデプロイとリソース共有。 - エージェント統合: SkyPilot Skillをインストールすることで、Claude CodeやCodexなどのコーディングエージェントがSkyPilotを操作できます。 インストールはuvまたはpipを使用し、選択したクラウド向けのextrasを指定します。READMEでは、クイックスタート、YAML仕様リファレンス、トレーニング(Verl、Llama 4ファインチューニング、TorchTitan、PyTorch、DeepSpeed、NeMo、Ray、Unsloth、Jax/TPU、OpenRLHF)、サービング(vLLM、SGLang、Ollama)、モデル(DeepSeek-R1、Llama 4、Llama 3、CodeLlama、Qwen、Kimi-K2、Mixtral)、AIアプリケーション(RAG、ベクターデータベース)、フレームワーク(Airflow、Jupyter、marimo)の実行可能な例も紹介されています。 このプロジェクトはBYOCであると明記しています。リソースはユーザー自身のクラウドアカウント、VPC、クラスタ内で起動されます。ドキュメント、ブログ、Slack、GitHub Discussions、Issueトラッカーがサポートとコントリビューションのためにリンクされています。