প্রকল্প সম্পর্কে

SkyPilot হলো যেকোনো AI ইনফ্রাস্ট্রাকচারে AI ওয়ার্কলোড চালানো, পরিচালনা এবং স্কেল করার একটি সিস্টেম। এটি দুটি শ্রোতাকে লক্ষ্য করে: AI টিম যারা যেকোনো ইনফ্রায় জব চালু করার জন্য একটি সহজ ইন্টারফেস চায়, এবং ইনফ্রাস্ট্রাকচার টিম যাদের শিডিউলিং, স্কেলিং এবং অর্কেস্ট্রেশন সহ একটি ইউনিফাইড কন্ট্রোল প্লেন প্রয়োজন। README-তে বর্ণিত মূল ক্ষমতাগুলি: - ইউনিফাইড ইন্টারফেস: একটি টাস্ক একবার সংজ্ঞায়িত করা হয় (YAML বা Python API) রিসোর্স প্রয়োজনীয়তা, ওয়ার্কডির, সেটআপ কমান্ড এবং রান কমান্ড সহ, তারপর যেকোনো উপলব্ধ ইনফ্রাস্ট্রাকচারে চালু করা হয়। এটি ভেন্ডর লক-ইন এড়াতে এবং প্রদানকারীদের মধ্যে জব স্থানান্তর করার একটি উপায় হিসাবে উপস্থাপন করা হয়। - মাল্টি-ইনফ্রাস্ট্রাকচার সাপোর্ট: Kubernetes, Slurm, এবং দীর্ঘ তালিকার ক্লাউড এবং প্রদানকারী যেমন AWS, GCP, Azure, OCI, CoreWeave, Nebius, Lambda Cloud, RunPod, Fluidstack, Cudo, Digital Ocean, Paperspace, Cloudflare, IBM, Vast.ai, VMware vSphere, Seeweb, Prime Intellect, Shadeform, Verda Cloud এবং Crusoe। - প্রভিশনিং এবং ফেইলওভার: SkyPilot উপলব্ধ ইনফ্রাস্ট্রাকচার খুঁজে বের করে, GPU/TPU/CPU প্রভিশন করে এবং ক্ষমতা ত্রুটি ঘটলে স্বয়ংক্রিয়ভাবে ফেইলওভার করতে পারে। - জব ম্যানেজমেন্ট: অনেক জবের কিউইং, চালানো এবং স্বয়ংক্রিয় পুনরুদ্ধার, প্লাস নিষ্ক্রিয় রিসোর্স ক্লিনআপের জন্য অটোস্টপ এবং শেয়ার্ড ক্লাস্টারে বিনপ্যাকিং। - Kubernetes অভিজ্ঞতা: পডে SSH, কোড সিঙ্ক, IDE সংযোগ, গ্যাং শিডিউলিং, মাল্টি-নোড জব, মাল্টি-ক্লাস্টার এবং মাল্টি-ক্লাউড কন্ট্রোল প্লেন। - টিম বৈশিষ্ট্য: একটি API সার্ভার এবং রিসোর্স শেয়ারিংয়ের মাধ্যমে ডিপ্লয়মেন্ট। - এজেন্ট ইন্টিগ্রেশন: একটি SkyPilot Skill ইনস্টল করা যেতে পারে যাতে Claude Code বা Codex-এর মতো কোডিং এজেন্টরা SkyPilot চালাতে পারে। ইনস্টলেশন uv বা pip-এর মাধ্যমে নির্বাচিত ক্লাউডের জন্য এক্সট্রা সহ করা হয়। README একটি কুইকস্টার্ট, YAML স্পেক রেফারেন্স, প্রশিক্ষণের জন্য চালানযোগ্য উদাহরণ (Verl, Llama 4 ফাইনটিউনিং, TorchTitan, PyTorch, DeepSpeed, NeMo, Ray, Unsloth, Jax/TPU, OpenRLHF), সার্ভিং (vLLM, SGLang, Ollama), মডেল (DeepSeek-R1, Llama 4, Llama 3, CodeLlama, Qwen, Kimi-K2, Mixtral), AI অ্যাপ্লিকেশন (RAG, ভেক্টর ডেটাবেস) এবং ফ্রেমওয়ার্ক (Airflow, Jupyter, marimo) এর দিকেও নির্দেশ করে। প্রকল্পটি বলে যে এটি BYOC: রিসোর্সগুলি ব্যবহারকারীর নিজস্ব ক্লাউড অ্যাকাউন্ট, VPC এবং ক্লাস্টারের মধ্যে চালু করা হয়। ডকুমেন্টেশন, একটি ব্লগ, Slack, GitHub Discussions এবং ইস্যু ট্র্যাকার সমর্থন এবং অবদানের জন্য লিঙ্ক করা হয়েছে।