whisper.cpp — Une implémentation C/C++ haute performance pour l'inférence du modèle de reconnaissance automatique de la parole (ASR) Whisper d'OpenAI, conçue pour un déploiement léger et multiplateforme.

Une implémentation C/C++ haute performance pour l'inférence du modèle de reconnaissance automatique de la parole (ASR) Whisper d'OpenAI, conçue pour un déploiement léger et multiplateforme.

À propos du projet

whisper.cpp est un port C/C++ pur du modèle Whisper d'OpenAI qui permet une inférence de reconnaissance vocale haute performance sans dépendances lourdes. Il est conçu pour l'efficacité, avec zéro allocation mémoire au moment de l'exécution et un support pour la précision mixte F16/F32 ainsi que la quantification entière. Les capacités clés incluent : - Accélération matérielle étendue : Optimisé pour Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), GPU NVIDIA (CUDA), GPU AMD (ROCm), Vulkan, OpenVINO et divers NPU (AMD Ryzen AI, Ascend). - Large support des plateformes : Compatible avec macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly et Raspberry Pi. - Fonctionnalités avancées : Inclut la détection d'activité vocale (VAD), le streaming d'entrée audio en temps réel, les horodatages au niveau du mot et le codage couleur de confiance pour les transcriptions. - Intégration : Fournit une API de style C et des images Docker pour un déploiement facile dans différents environnements.