whisper.cpp — OpenAI의 Whisper 자동 음성 인식(ASR) 모델을 위한 고성능 C/C++ 구현체로, 가볍고 교차 플랫폼 배포가 가능하도록 설계되었습니다.

OpenAI의 Whisper 자동 음성 인식(ASR) 모델을 위한 고성능 C/C++ 구현체로, 가볍고 교차 플랫폼 배포가 가능하도록 설계되었습니다.

프로젝트 소개

whisper.cpp는 OpenAI의 Whisper 모델을 plain C/C++로 포팅한 것으로, 무거운 의존성 없이 고성능 음성-텍스트 추론을 가능하게 합니다. 효율성을 위해 설계되었으며, 런타임 시 메모리 할당이 전혀 없고 혼합 F16/F32 정밀도 및 정수 양자화를 지원하는 것이 특징입니다. 주요 기능은 다음과 같습니다: - 광범위한 하드웨어 가속: Apple Silicon (ARM NEON, Metal, Core ML), x86 (AVX), NVIDIA GPU (CUDA), AMD GPU (ROCm), Vulkan, OpenVINO 및 다양한 NPU (AMD Ryzen AI, Ascend)에 최적화되어 있습니다. - 폭넓은 플랫폼 지원: macOS, iOS, Android, Linux, FreeBSD, Windows, WebAssembly 및 Raspberry Pi와 호환됩니다. - 고급 기능: 음성 활동 감지(VAD), 실시간 오디오 입력 스트리밍, 단어 수준 타임스탬프 및 전사 결과에 대한 신뢰도 색상 코딩을 포함합니다. - 통합: 다양한 환경에서 쉽게 배포할 수 있도록 C 스타일 API와 Docker 이미지를 제공합니다.