whisper.cpp — Высокопроизводительная реализация модели автоматического распознавания речи (ASR) OpenAI Whisper на C/C++, разработанная для легковесного и кроссплатформенного развертывания.

Высокопроизводительная реализация модели автоматического распознавания речи (ASR) OpenAI Whisper на C/C++, разработанная для легковесного и кроссплатформенного развертывания.

Об этом проекте

whisper.cpp представляет собой порт модели OpenAI Whisper на чистом C/C++, который обеспечивает высокопроизводительный вывод преобразования речи в текст без тяжелых зависимостей. Он разработан для эффективности, характеризуется нулевым выделением памяти во время выполнения и поддержкой смешанной точности F16/F32 и целочисленного квантования. Ключевые возможности включают: - Обширное аппаратное ускорение: оптимизировано для Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), NVIDIA GPUs (CUDA), AMD GPUs (ROCm), Vulkan, OpenVINO и различных NPU (AMD Ryzen AI, Ascend). - Широкая поддержка платформ: совместимо с macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly и Raspberry Pi. - Расширенные функции: включает обнаружение голосовой активности (VAD), потоковую передачу аудиовхода в реальном времени, временные метки на уровне слов и цветовую маркировку уверенности для транскрипций. - Интеграция: предоставляет API в стиле C и Docker-образы для легкого развертывания в различных средах.