اوپن سورس۔ نئے امکانات۔

NVIDIA cuDF ایک GPU سے تیز رفتار ڈیٹا فریم لائبریری ہے جو جدولی ڈیٹا پروسیسنگ کے لیے ہے، CUDA-X سوٹ کا حصہ ہے۔ یہ pandas سے مطابقت رکھنے والی APIs، Polars GPU انجن، اور Dask بیک اینڈ فراہم کرتی ہے۔

OneFlow ایک صارف دوست، قابل توسیع اور موثر ڈیپ لرننگ فریم ورک ہے جس میں PyTorch جیسی API، n-جہتی متوازی عمل کے لیے Global Tensor، اور ماڈل کی رفتار اور تعیناتی کے لیے Graph Compiler شامل ہے۔

SGLang بڑے لسانی ماڈلز (LLMs) اور ملٹی موڈل ماڈلز کے لیے ایک اعلیٰ کارکردگی والا سرونگ فریم ورک ہے، جسے کم تاخیر اور زیادہ تھروپٹ انفرنس کے لیے ڈیزائن کیا گیا ہے۔

ایک چھوٹا GPT لینگویج ماڈل (~540M پیرامیٹرز) جو صارفین کے لیپ ٹاپ ہارڈویئر پر شروع سے تربیت کے لیے ڈیزائن کیا گیا ہے، Fineweb-edu پر پری ٹریننگ اور چیٹ فائن ٹیوننگ کی صلاحیتوں کے ساتھ۔

Cog مشین لرننگ ماڈلز کو پروڈکشن کے لیے تیار Docker کنٹینرز میں پیک کرتا ہے، خودکار طور پر CUDA مطابقت سنبھالتا ہے اور Python قسم کی تعریفوں سے HTTP inference API تیار کرتا ہے۔

NVIDIA CUDA Samples ایک سرکاری ذخیرہ ہے جو CUDA Toolkit کی خصوصیات کو ظاہر کرنے والی مثالیں فراہم کرتا ہے، جس میں C++ اور Python کے نمونے شامل ہیں، جنہیں مختلف اقسام جیسے تعارف، افادیت، تصورات، لائبریریاں، ڈومین مخصوص اور پلیٹ فارم مخصوص حصوں میں تقسیم کیا گیا ہے۔

vLLM ایک ہائی تھروپٹ اور میموری کے لحاظ سے موثر لائبریری ہے جسے Large Language Model (LLM) کے انفرنس اور سرونگ کے لیے ڈیزائن کیا گیا ہے۔

Voicebox ایک open-source، local-first AI voice studio ہے جو voice cloning، TTS، speech-to-text، global dictation، audio effects، MCP agent voice output، stories editor، captures اور REST API فراہم کرتا ہے۔

TensorRT امیج ٹو امیج ویڈیو ماڈلز کے لیے ایک GPU-resident رن ٹائم، جو ڈیکوڈ سے انکوڈ تک خام فریمز کو GPU پر رکھ کر اعلیٰ کارکردگی والی ویڈیو اپ اسکیلنگ کو ممکن بناتا ہے۔

CatBoost Yandex کا اوپن سورس گریڈیئنٹ بوسٹنگ لائبریری ہے، جو درجہ بندی، رجعت اور درجہ بندی کے لیے ہے، جس میں قدرتی کیٹیگریکل فیچر سپورٹ، CPU/GPU ٹریننگ، Apache Spark کے ذریعے تقسیم شدہ ٹریننگ، اور Python، R، Java اور C++ کے APIs شامل ہیں۔

Whisper اور Gemini پر مبنی ایک AI ویڈیو ایڈیٹنگ ٹول جو تھائی اور انگریزی زبانوں کو سپورٹ کرتا ہے، جس میں GPU اور Docker کے ذریعے 3-4 گنا تیز رفتار پرفارمنس کے ساتھ کلیدی حصوں کی کٹنگ اور سب ٹائٹلنگ کی سہولت موجود ہے۔