اوپن سورس۔ نئے امکانات۔

labml.ai نےورال نیٹ ورکس اور ڈیپ لرننگ پیپرز کی سادہ PyTorch تفصیلات کا مجموعہ فراہم کرتا ہے جس میں ساتھ ساتھ وضاحتی نوٹس ہیں، جو ٹرانسفارمرز، GANs، ڈفیوژن ماڈلز، RL، آپٽی مائزرز اور دیگر موضوعات کا احاطہ کرتے ہیں۔

ایک چھوٹا GPT لینگویج ماڈل (~540M پیرامیٹرز) جو صارفین کے لیپ ٹاپ ہارڈویئر پر شروع سے تربیت کے لیے ڈیزائن کیا گیا ہے، Fineweb-edu پر پری ٹریننگ اور چیٹ فائن ٹیوننگ کی صلاحیتوں کے ساتھ۔

vLLM ایک ہائی تھروپٹ اور میموری کے لحاظ سے موثر لائبریری ہے جسے Large Language Model (LLM) کے انفرنس اور سرونگ کے لیے ڈیزائن کیا گیا ہے۔

OpenAI کے Whisper automatic speech recognition (ASR) ماڈل کے لیے ایک اعلیٰ کارکردگی والا C/C++ implementation، جسے ہلکے پھلکے اور کراس پلیٹ فارم تعیناتی کے لیے ڈیزائن کیا گیا ہے۔

PaddleSeg ایک اینڈ ٹو اینڈ امیج سیگمنٹیشن ڈیولپمنٹ کٹ ہے جو PaddlePaddle پر مبنی ہے، جس میں 45+ ماڈل الگورتھم اور 140+ پری ٹرینڈ ماڈل شامل ہیں، اور یہ سیمنٹک، انٹرایکٹو، پینورامک سیگمنٹیشن، میٹنگ اور 3D میڈیکل سیگمنٹیشن کو کور کرتا ہے۔

CTranslate2 کا استعمال کرتے ہوئے OpenAI کے Whisper ماڈل کا ایک تیز رفتار ورژن، جو ٹرانسکرپشن کی رفتار میں بہتری اور میموری کے کم استعمال کی پیشکش کرتا ہے۔

Hugging Face Transformers مشین لرننگ کے لیے ایک ماڈل ڈیفینیشن فریم ورک ہے جو ٹیکسٹ، ویژن، آڈیو اور ملٹی موڈل ٹاسکس کے لیے استعمال ہوتا ہے۔ یہ 1 ملین سے زیادہ پری ٹرینڈ چیک پوائنٹس کے ساتھ انفرنس اور ٹریننگ کے لیے ایک متحد API فراہم کرتا ہے۔

SGLang بڑے لسانی ماڈلز (LLMs) اور ملٹی موڈل ماڈلز کے لیے ایک اعلیٰ کارکردگی والا سرونگ فریم ورک ہے، جسے کم تاخیر اور زیادہ تھروپٹ انفرنس کے لیے ڈیزائن کیا گیا ہے۔