audio.cpp

audio.cpp是一个基于ggml的全能纯C++音频模型推理引擎。它消除了对复杂Python环境的需求，为各种音频任务提供共享的原生运行时。主要特性包括： - **广泛的模型支持**：支持超过80个模型家族和120多种变体，涵盖文本转语音（TTS）、自动语音识别（ASR）、语音活动检测（VAD）、语音克隆、语音转换、音乐生成、源分离和说话人分离。 - **高性能**：针对CUDA、Metal、ROCm、Vulkan和CPU进行了优化。它实现了显著的加速（比Python路径快达8倍）并降低了延迟。 - **GGUF格式**：完全支持GGUF模型格式，提供优化的Q8和其他量化包，以实现高效的内存使用和速度。 - **可移植性**：可在Windows、Linux和macOS上运行，支持NVIDIA、AMD和Apple Silicon GPU。 - **生产就绪**：具有可重用会话、批量离线推理、流式支持、内置音频工具（去噪、重采样、STFT）以及用于多步骤工作流的JSON管道支持。 - **用户界面**：包括命令行界面（CLI）、API服务器和带有Arena选项卡的原生WebUI，用于并排模型比较。