whisper.cpp — Una implementación de C/C++ de alto rendimiento para la inferencia del modelo de reconocimiento automático de voz (ASR) Whisper de OpenAI, diseñada para un despliegue ligero y multiplataforma.

Una implementación de C/C++ de alto rendimiento para la inferencia del modelo de reconocimiento automático de voz (ASR) Whisper de OpenAI, diseñada para un despliegue ligero y multiplataforma.

Sobre el proyecto

whisper.cpp es un port simple en C/C++ del modelo Whisper de OpenAI que permite la inferencia de voz a texto de alto rendimiento sin dependencias pesadas. Está diseñado para la eficiencia, presentando cero asignaciones de memoria en tiempo de ejecución y soporte para precisión mixta F16/F32 y cuantización de enteros. Las capacidades clave incluyen: - Aceleración de Hardware Extensa: Optimizado para Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), GPUs de NVIDIA (CUDA), GPUs de AMD (ROCm), Vulkan, OpenVINO y varias NPUs (AMD Ryzen AI, Ascend). - Amplio Soporte de Plataformas: Compatible con macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly y Raspberry Pi. - Funciones Avanzadas: Incluye Detección de Actividad de Voz (VAD), streaming de entrada de audio en tiempo real, marcas de tiempo a nivel de palabra y codificación de colores de confianza para las transcripciones. - Integración: Proporciona una API de estilo C e imágenes de Docker para un despliegue sencillo en diferentes entornos.