speakrs 用 Rust 重写 GPU 内核,比 pyannote 快约 60 倍
热点事件持续更新
speakrs 用 Rust 重写 GPU 内核,比 pyannote 快约 60 倍
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
作者 praveenperera 用 Rust 和 cuda-oxide 为开源说话人分离库 speakrs 重写了全部 GPU 内核。在 RTX 4090 上,VoxConverse dev 的处理时间从 1236 秒降到 38 秒;与 Python 版 pyannote 的 2301 秒相比,约快 60 倍,DER 为 7.0% 对 7.2%。 此前 speakrs 的 CUDA 模式通过 ONNX Runtime 运行模型,现在改用自研内核,并可构建成只依赖 NVIDIA 驱动。按作者说明,使用 `cuda-rtx40` 特性只需 NVIDIA 驱动;使用 `cuda` 特性则覆盖所有受支持的 GPU 代际,并可回退到 cuDNN 9 和 cuBLAS 12。对于没有内置调优配置的 GPU,需用与应用相同的特性运行一次调优器,因为调优文件只适用于生成它的构建。 Linux x86_64 wheel 包含 CPU 和 CUDA,macOS arm64 wheel 包含 CPU 和 CoreML。
AI 根据报道生成 · 55 分钟前更新
最新进展10月29日 02:07
用 Rust 写 GPU kernel:speakrs 比 pyannote 快 60 倍报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- Hacker News用 Rust 写 GPU kernel:speakrs 比 pyannote 快 60 倍
作者用 Rust 和 cuda-oxide 为开源说话人分离库 speakrs 重写全部 GPU kernel,在 RTX 4090 上 VoxConverse dev 从 1236 秒降到 38 秒,比 Python 版 pyannote 的 2301 秒快约 60 倍,DER 为 7.0% 对 7.2%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。