whisper.cpp

whisper.cpp 是 OpenAI Whisper 模型的纯 C/C++ 移植版本，能够在无需繁重依赖的情况下实现高性能的语音转文本推理。它专为效率而设计，具有运行时零内存分配的特点，并支持混合 F16/F32 精度和整数量化。 核心能力包括： - 广泛的硬件加速：针对 Apple Silicon (ARM NEON, Metal, Core ML)、x86 (AVX)、NVIDIA GPU (CUDA)、AMD GPU (ROCm)、Vulkan、OpenVINO 以及各种 NPU (AMD Ryzen AI, Ascend) 进行了优化。 - 广泛的平台支持：兼容 macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly 和 Raspberry Pi。 - 高级功能：包括语音活动检测 (VAD)、实时音频输入流、词级时间戳以及转录文本的置信度颜色编码。 - 集成：提供 C 风格 API 和 Docker 镜像，以便在不同环境中轻松部署。