इस प्रोजेक्ट के बारे में
whisper.cpp OpenAI के Whisper मॉडल का एक प्लेन C/C++ पोर्ट है जो भारी निर्भरताओं के बिना उच्च-प्रदर्शन स्पीच-टू-टेक्स्ट इन्फरेंस को सक्षम बनाता है। इसे दक्षता के लिए डिज़ाइन किया गया है, जिसमें रनटाइम पर शून्य मेमोरी एलोकेशन और मिश्रित F16/F32 प्रिसिजन और इंटीजर क्वांटाइजेशन का समर्थन शामिल है।
मुख्य क्षमताओं में शामिल हैं:
- व्यापक हार्डवेयर एक्सेलेरेशन: Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), NVIDIA GPUs (CUDA), AMD GPUs (ROCm), Vulkan, OpenVINO, और विभिन्न NPUs (AMD Ryzen AI, Ascend) के लिए अनुकूलित।
- व्यापक प्लेटफॉर्म समर्थन: macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly, और Raspberry Pi के साथ संगत।
- उन्नत विशेषताएं: इसमें Voice Activity Detection (VAD), रियल-टाइम ऑडियो इनपुट स्ट्रीमिंग, वर्ड-लेवल टाइमस्टैम्प और ट्रांसक्रिप्शन के लिए कॉन्फिडेंस कलर-कोडिंग शामिल है।
- एकीकरण: विभिन्न वातावरणों में आसान परिनियोजन के लिए C-स्टाइल API और Docker इमेजेस प्रदान करता है।