Hacker News· AlpinDale·· 18 小时前AI 评分55
nf12 发布 LLM 权重无损 12 位压缩库，支持 Ampere 至 Blackwell GPU
Lossless compression of LLMs to 12-bits
AI 导读
nf12 发布一个在 NVIDIA GPU 上实现 BF16 权重矩阵无损 12 位编码的库，覆盖 SM80 到 SM120 架构，可通过 uv pip install nf12 安装。
来源：Hacker News · github.com