Hacker News· xlayn·· 18 小时前AI 评分22
Qwen3.8-27B MTP 草稿头量化实验：Q4S 头在 Q6 量化下比 Q6 更快，f16 更慢
Qwen3.8-27B MTP Q4S head on Q6 quant is faster than q6, f16 slower = acceptance
AI 导读
针对 Qwen3.8-27B 的 NextN/MTP 草稿链（blk.64），llama-mtp-replay 可在 CPU 上离线按 token 桶和链深度评测草稿头变体，无需 llama-server 和目标上下文。
来源：Hacker News · github.com