跳转至

VoiceStudio — Parakeet TDT (NVIDIA NeMo) 引擎

NVIDIA 的 Parakeet TDT 通过 NeMo 工具包实现:采用 FastConformer 编码器与 Token-and-Duration Transducer 解码器。它在英语基准上优于 Whisper large-v3(WER 约 6%),并支持 25 种(主要是欧洲)语言,具备自动语言检测功能。0.6B 模型即使在 CPU 上也很快速——在 Apple Silicon M2 CPU(2026-07-02)上实测 RTF 为 0.08–0.23,比同一主机上的 faster-whisper large-v3 int8 快约 20 倍。

请勿将 NeMo 安装到应用 venv 中

nemo_toolkit 的 ASR 附加组件将 transformers>=4.57,<4.58 固定为依赖版本,这与 VoiceStudio 自身对 transformers>=5.3 的要求冲突;如果安装到共享 venv 中,会破坏后端(启动时出现 ImportError)。目前该引擎没有安全的应用内安装路径;应用内隔离另行跟踪。

如果你想在没有独立环境的情况下使用 Parakeet 模型,请改用以下选项——同一模型家族,无需 NeMo 依赖:

  • Apple Silicon: parakeet-mlx(在 mac-ARM 源码安装中默认安装)。
  • 任意平台、CPU: sherpa-onnx-asr — 可选择的 Parakeet TDT v2/v3 int8 ONNX 导出;Whisper Tiny 仍是跨平台听写的默认选项。

选择该引擎

仅当你在运行后端的独立专用 Python 环境中配置了 nemo_toolkit[asr] 时,此项才有意义:

  • Model Catalogue,ASR 选项卡 → 在 Parakeet TDT 行上点击 Use,或
  • OMNIVOICE_ASR_BACKEND=nemo-parakeet。

自动检测永远不会选择它;这是明确的显式选择加入(opt-in)。

擅长场景

  • 英语及欧洲语言转写,适用于 WER 比词级字幕时间轴更重要的场景。
  • 纯 CPU 主机 — 无需任何 GPU 即可超过实时速度。

平台支持

支持 CUDA 或 CPU(旧的硬性 CUDA 门槛已移除——参见上文 RTF 数据)。可用性纯粹取决于对 nemo.collections.asr 的依赖检查。

模型选择

ASR_MODEL_NEMO — 默认为 nvidia/parakeet-tdt-0.6b-v3。权重在首次加载时下载——参见 downloading-models。

注意事项

  • 对于整个文件,输出是一个单一分段(NeMo 不会像 Whisper 那样进行 VAD 分段);当模型提供词级时间戳时会包含这些时间戳——适合听写和普通转录,但不适合长篇字幕。
  • NeMo 无法清晰地暴露检测到的语言,因此无论实际(自动检测)语言是什么,结果都会报告为 en。

本页原文 Markdown:在 AtomGit 查看·内容源自开源项目 om/VoiceStudio