whisper.cpp — Uma implementação de alta performance em C/C++ para inferência do modelo de reconhecimento automático de fala (ASR) Whisper da OpenAI, projetada para implantação leve e multiplataforma.

Uma implementação de alta performance em C/C++ para inferência do modelo de reconhecimento automático de fala (ASR) Whisper da OpenAI, projetada para implantação leve e multiplataforma.

Sobre o projeto

whisper.cpp é um port em C/C++ puro do modelo Whisper da OpenAI que permite a inferência de fala para texto de alta performance sem dependências pesadas. Ele é projetado para eficiência, apresentando zero alocações de memória em tempo de execução e suporte para precisão mista F16/F32 e quantização de inteiros. As principais capacidades incluem: - Aceleração de Hardware Extensiva: Otimizado para Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), GPUs NVIDIA (CUDA), GPUs AMD (ROCm), Vulkan, OpenVINO e várias NPUs (AMD Ryzen AI, Ascend). - Amplo Suporte de Plataforma: Compatível com macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly e Raspberry Pi. - Recursos Avançados: Inclui Detecção de Atividade de Voz (VAD), streaming de entrada de áudio em tempo real, timestamps ao nível de palavra e codificação de cores de confiança para transcrições. - Integração: Fornece uma API em estilo C e imagens Docker para fácil implantação em diferentes ambientes.