इस प्रोजेक्ट के बारे में

SkyPilot किसी भी AI इंफ्रास्ट्रक्चर पर AI वर्कलोड चलाने, प्रबंधित करने और स्केल करने का एक सिस्टम है। यह दो दर्शकों को लक्षित करता है: AI टीमें जो किसी भी इंफ्रा पर जॉब लॉन्च करने के लिए एक सरल इंटरफ़ेस चाहती हैं, और इंफ्रास्ट्रक्चर टीमें जिन्हें शेड्यूलिंग, स्केलिंग और ऑर्केस्ट्रेशन के साथ एक एकीकृत कंट्रोल प्लेन चाहिए। README में वर्णित मुख्य क्षमताएँ: - एकीकृत इंटरफ़ेस: एक टास्क को एक बार (YAML या Python API) संसाधन आवश्यकताओं, workdir, सेटअप कमांड और रन कमांड के साथ परिभाषित किया जाता है, फिर किसी भी उपलब्ध इंफ्रास्ट्रक्चर पर लॉन्च किया जाता है। इसे वेंडर लॉक-इन से बचने और प्रोवाइडर्स के बीच जॉब स्थानांतरित करने के तरीके के रूप में प्रस्तुत किया गया है। - मल्टी-इंफ्रास्ट्रक्चर सपोर्ट: Kubernetes, Slurm, और क्लाउड्स व प्रोवाइडर्स की एक लंबी सूची जिसमें AWS, GCP, Azure, OCI, CoreWeave, Nebius, Lambda Cloud, RunPod, Fluidstack, Cudo, Digital Ocean, Paperspace, Cloudflare, IBM, Vast.ai, VMware vSphere, Seeweb, Prime Intellect, Shadeform, Verda Cloud और Crusoe शामिल हैं। - प्रोविज़निंग और फेलओवर: SkyPilot उपलब्ध इंफ्रास्ट्रक्चर खोजता है, GPU/TPU/CPU प्रोविज़न करता है, और क्षमता त्रुटियाँ होने पर स्वचालित रूप से फेलओवर कर सकता है। - जॉब प्रबंधन: कई जॉब्स की क्यूइंग, रनिंग और ऑटो-रिकवरी, साथ ही निष्क्रिय संसाधन सफाई के लिए ऑटोस्टॉप और साझा क्लस्टर्स पर binpacking। - Kubernetes अनुभव: पॉड्स में SSH, कोड सिंक, IDE कनेक्ट करना, gang scheduling, मल्टी-नोड जॉब्स, मल्टी-क्लस्टर और मल्टी-क्लाउड कंट्रोल प्लेन। - टीम सुविधाएँ: API सर्वर के माध्यम से डिप्लॉयमेंट और संसाधन साझाकरण। - एजेंट एकीकरण: एक SkyPilot Skill इंस्टॉल की जा सकती है ताकि Claude Code या Codex जैसे कोडिंग एजेंट SkyPilot को चला सकें। इंस्टॉलेशन uv या pip के माध्यम से चयनित क्लाउड्स के लिए extras के साथ होता है। README एक quickstart, YAML spec संदर्भ, ट्रेनिंग के लिए चलाने योग्य उदाहरण (Verl, Llama 4 finetuning, TorchTitan, PyTorch, DeepSpeed, NeMo, Ray, Unsloth, Jax/TPU, OpenRLHF), सर्विंग (vLLM, SGLang, Ollama), मॉडल्स (DeepSeek-R1, Llama 4, Llama 3, CodeLlama, Qwen, Kimi-K2, Mixtral), AI एप्लिकेशन (RAG, वेक्टर डेटाबेस) और फ्रेमवर्क (Airflow, Jupyter, marimo) की ओर भी इशारा करता है। प्रोजेक्ट बताता है कि यह BYOC है: संसाधन उपयोगकर्ता के अपने क्लाउड अकाउंट्स, VPCs और क्लस्टर्स के भीतर लॉन्च किए जाते हैं। सपोर्ट और योगदान के लिए डॉक्यूमेंटेशन, ब्लॉग, Slack, GitHub Discussions और इश्यू ट्रैकर लिंक किए गए हैं।