প্রকল্প সম্পর্কে

ggml হলো প্লেইন C/C++-এ লেখা মেশিন লার্নিংয়ের জন্য একটি টেনসর লাইব্রেরি, যার ঘোষিত লক্ষ্য হলো ন্যূনতম সেটআপে সরল, পোর্টেবল ও দক্ষ হওয়া। এটি llama.cpp-এর মতো প্রকল্পের পেছনের টেনসর ভিত্তি। README-তে বর্ণিত মূল বৈশিষ্ট্য: - বাহ্যিক নির্ভরতা ছাড়াই প্লেইন C/C++ বাস্তবায়ন। - ক্রস-প্ল্যাটফর্ম সমর্থন: x86, ARM, RISC-V, LoongArch, PowerPC, s390x এবং WebAssembly। - x86, ARM এবং RISC-V-এর জন্য SIMD-অপ্টিমাইজড কার্নেল। - CPU, GPU, NPU এবং ব্রাউজার পরিবেশ কভার করে বিস্তৃত ব্যাকএন্ড সমর্থন। - 2-বিট থেকে 8-বিট পর্যন্ত ইন্টিজার কোয়ান্টাইজেশন, সাথে MXFP4 এবং NVFP4 মাইক্রোস్కেলিং ফরম্যাট। - রানটাইমে শূন্য মেমরি অ্যালোকেশন। শুরু করা হয় CMake দিয়ে সোর্স থেকে বিল্ড করে: ```bash git clone https://github.com/ggml-org/ggml cd ggml mkdir build && cd build cmake .. cmake --build . --config Release -j 8 ``` ম্যাট্রিক্স গুণন কভার করে একটি ন্যূনতম, সম্পূর্ণ মন্তান্বিত উদাহরণ examples/simple-এর অধীনে পাওয়া যায়। প্রকল্প দ্বারা উল্লেখিত ডকুমেন্টেশনের মধ্যে রয়েছে GGUF ফাইল ফরম্যাট স্পেসিফিকেশন, Hugging Face-এ প্রকাশিত ggml-এর একটি ভূমিকা, এবং একটি GGML টিপস অ্যান্ড ট্রিকস উইকি পৃষ্ঠা। CMake বিল্ড সিস্টেমসহ কোর ggml লাইব্রেরিতে অবদানের জন্য README-তে অবদানকারীদের পরিবর্তে llama.cpp রিপোজিটরিতে একটি পুল রিকোয়েস্ট খোলার অনুরোধ করা হয়েছে, যাতে পরিবর্তনগুলো বেশি দৃশ্যমানতা, পরীক্ষা এবং পর্যালোচনা পায়। প্রকল্পটি MIT লাইসেন্সের অধীনে প্রকাশিত।