ওপেন সোর্স। নতুন সম্ভাবনা।

একটি ছোট GPT ভাষা মডেল (~৫৪০M প্যারামিটার) যা ভোক্তা ল্যাপটপ হার্ডওয়্যারে স্ক্র্যাচ থেকে প্রশিক্ষণের জন্য ডিজাইন করা হয়েছে, সাথে Fineweb-edu-তে প্রিট্রেনিং এবং চ্যাট ফাইনটিউনিং ক্ষমতা রয়েছে।

Cog মেশিন লার্নিং মডেলগুলোকে প্রোডাকশন-রেডি ডকার কন্টেইনারে প্যাকেজ করে, স্বয়ংক্রিয়ভাবে CUDA সামঞ্জস্য পরিচালনা করে এবং Python টাইপ ডেফিনিশন থেকে HTTP ইনফারেন্স API তৈরি করে।

NVIDIA CUDA স্যাম্পলস হলো অফিসিয়াল উদাহরণ প্রোগ্রামের সংগ্রহ যা CUDA টুলকিটের বৈশিষ্ট্য প্রদর্শন করে। এতে C++ এবং Python-এ বিভিন্ন বিভাগে উদাহরণ রয়েছে—মৌলিক ধারণা, ইউটিলিটি, লাইব্রেরি, ডোমেইন-নির্দিষ্ট অ্যাপ্লিকেশন এবং প্ল্যাটফর্ম-নির্দিষ্ট স্যাম্পল।

vLLM হলো একটি উচ্চ-থ্রুপুট এবং মেমরি-দক্ষ লাইব্রেরি যা Large Language Model (LLM) ইনফারেন্স এবং সার্ভিংয়ের জন্য ডিজাইন করা হয়েছে।

Voicebox একটি ওপেন-সোর্স, লোকাল-ফার্স্ট এআই ভয়েস স্টুডিও যা ভয়েস ক্লোনিং, টেক্সট-টু-স্পিচ, গ্লোবাল ডিক্টেশন এবং এমসিপি-সচেতন টুলের মাধ্যমে এআই এজেন্টদের কথা বলার সুবিধা প্রদান করে।

TensorRT ইমেজ-টু-ইমেজ ভিডিও মডেলের জন্য একটি GPU-resident রানটাইম, যা ডিকোড থেকে এনকোড পর্যন্ত র ফ্রেমগুলোকে GPU-তে রেখে উচ্চ-ক্ষমতাসম্পন্ন ভিডিও আপস্কেলিং সক্ষম করে।

CatBoost হলো Yandex-এর ওপেন-সোর্স গ্রেডিয়েন্ট বুস্টিং লাইব্রেরি, যা শ্রেণিবিন্যাস, রিগ্রেশন এবং র্যাংকিংয়ের জন্য ব্যবহৃত হয়। এতে ক্যাটাগরিক্যাল ফিচার সাপোর্ট, CPU/GPU প্রশিক্ষণ, Apache Spark-এর মাধ্যমে ডিস্ট্রিবিউটেড প্রশিক্ষণ এবং Python, R, Java ও C++-এর জন্য API রয়েছে।

Whisper এবং Gemini চালিত একটি AI ভিডিও এডিটিং টুল যা থাই এবং ইংরেজি ভাষা সমর্থন করে। এটি GPU এবং Docker-এর মাধ্যমে ৩-৪ গুণ দ্রুত গতিতে ভিডিওর গুরুত্বপূর্ণ অংশ কাটা এবং সাবটাইটেল তৈরি করতে সক্ষম।

NVIDIA cuDF হল একটি GPU-ত্বরান্বিত DataFrame লাইব্রেরি, যা ট্যাবুলার ডেটা প্রক্রিয়াকরণের জন্য ব্যবহৃত হয়। এটি pandas-সামঞ্জস্যপূর্ণ API, Polars GPU ইঞ্জিন এবং Dask ব্যাকএন্ড প্রদান করে। CUDA-X স্যুটের অংশ হিসেবে এটি উচ্চ-কার্যক্ষমতা সম্পন্ন ডেটা ম্যানিপুলেশন সক্ষম করে। এটি Apache 2.0 লাইসেন্সের অধীনে প্রকাশিত।

OneFlow একটি ব্যবহারকারী-বান্ধব, স্কেলযোগ্য এবং দক্ষ ডিপ লার্নিং ফ্রেমওয়ার্ক, যাতে PyTorch-সদৃশ API, n-মাত্রিক সমান্তরাল নির্বাহের জন্য Global Tensor এবং মডেল ত্বরান্বিত ও স্থাপনের জন্য Graph Compiler রয়েছে।

SGLang হলো লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) এবং মাল্টিমোডাল মডেলের জন্য একটি উচ্চ-ক্ষমতাসম্পন্ন সার্ভিং ফ্রেমওয়ার্ক, যা লো-ল্যাটেন্সি এবং হাই-থ্রুপুট ইনফারেন্সের জন্য ডিজাইন করা হয়েছে।