跳到正文
Hacker News· jakcwi·· 4 小时前AI 评分42

Show HN:Triton 稀疏 SwiGLU 内核训练吞吐量提升 36%

Show HN: Sparse kernel delivering 36% higher training throughput

AI 导读

Jakub Ćwirlej 发布 Triton 稀疏 SwiGLU FFN 内核,在 RTX PRO 6000 上训练吞吐量比同等 FFN 容量的稠密模型高 36%。

来源:Hacker News · huggingface.co