প্রকল্প সম্পর্কে
whisper.cpp হলো OpenAI-এর Whisper মডেলের একটি প্লেইন C/C++ পোর্ট যা ভারী ডিপেন্ডেন্সি ছাড়াই উচ্চ-ক্ষমতাসম্পন্ন স্পিচ-টু-টেক্সট ইনফারেন্স সক্ষম করে। এটি দক্ষতার জন্য ডিজাইন করা হয়েছে, যার বৈশিষ্ট্যগুলোর মধ্যে রয়েছে রানটাইমে শূন্য মেমরি অ্যালোকেশন এবং মিক্সড F16/F32 প্রিসিশন ও ইন্টিজার কোয়ান্টাইজেশনের সমর্থন।
মূল সক্ষমতাগুলোর মধ্যে রয়েছে:
- ব্যাপক হার্ডওয়্যার এক্সিলারেশন: Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), NVIDIA GPUs (CUDA), AMD GPUs (ROCm), Vulkan, OpenVINO এবং বিভিন্ন NPU (AMD Ryzen AI, Ascend)-এর জন্য অপ্টিমাইজ করা।
- বিস্তৃত প্ল্যাটফর্ম সমর্থন: macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly এবং Raspberry Pi-এর সাথে সামঞ্জস্যপূর্ণ।
- উন্নত বৈশিষ্ট্য: এতে Voice Activity Detection (VAD), রিয়েল-টাইম অডিও ইনপুট স্ট্রিমিং, শব্দ-স্তরের টাইমস্ট্যাম্প এবং ট্রান্সক্রিপশনের জন্য কনফিডেন্স কালার-কোডিং অন্তর্ভুক্ত রয়েছে।
- ইন্টিগ্রেশন: বিভিন্ন পরিবেশে সহজ ডেপ্লয়মেন্টের জন্য একটি C-স্টাইল API এবং Docker ইমেজ প্রদান করে।