基准测试¶
按引擎和设备测量的数值——一次生成在真实硬件上实际需要多长时间。这里的每个数字都由本仓库内的测试工具在指定硬件和指定版本上生成;没有任何估算。
如何测量数值¶
# stop the app first — a running backend holds a model and skews numbers
uv run python scripts/bench_pipeline.py # everything
uv run python scripts/bench_pipeline.py tts # just the TTS stage
scripts/bench_pipeline.py 逐个对每个流水线阶段进行性能分析,并且内存安全:如果空闲内存不足,它会拒绝启动某个阶段,并在阶段之间卸载模型。关于每个阶段的时间花在了哪里,请参阅 performance.md。
tts 阶段会输出此表收集的两个值:
- RTF(实时因子)—— 每生成一秒钟音频所需的计算秒数,打印在每个 warm 测量值旁边。RTF < 1 表示比实时更快。表格中请使用短行(warm)RTF。
- 峰值 VRAM — 仅在 CUDA 上打印。MPS 使用统一内存,CPU 没有 VRAM;子进程隔离的引擎在测试工具可见范围之外分配内存(对于这些引擎会打印
n/a)。在上述所有情况下,将该列留空。
结果¶
尚无已验证的行——此表格由维护者的运行结果和社区提交来填充。
| 引擎 | 设备 | RTF (warm) | 峰值 VRAM (GB) | 应用版本 | 来源 |
|---|---|---|---|---|---|
| 暂无——请在下方贡献你的行 |
列含义:引擎 — 测试工具解析出的 TTS 引擎(在阶段开始时打印)。设备 — 一个字符串,指明运行模型的硬件,例如 RTX 3060 12 GB、Apple M2 Pro、Ryzen 7 5800X (CPU)。RTF (warm) — 测试工具输出的短行(warm)RTF。峰值 VRAM — 测试工具在 CUDA 上的峰值,在 MPS/CPU 上留空。应用版本 — 来自 Settings → About。来源 — 指向添加该行的 PR 的链接。
贡献一行¶
- 在一台无其他负载的机器上运行测试工具(应用已停止),并复制它的汇总表。
- 打开一个 PR,按照上述列含义添加一行,并将测试工具的原始输出粘贴到 PR 描述中——该 PR 链接即成为该行的来源。
- 每个引擎+设备组合一行;较新的应用版本会替换旧行。
来自不同机器的数字不能直接比较——这没关系。重点在于符合实际的预期(“这类 GPU 上的这个引擎大约就是这个速度”),而不是排行榜。
本页原文 Markdown:在 AtomGit 查看·内容源自开源项目 om/VoiceStudio