开发者复现LoRA优化器Dimuon，称优于AdamW
热点事件持续更新
开发者复现LoRA优化器Dimuon，称优于AdamW
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
开发者 polymorph1sm 在 Qwen3-1.7B 上用 OpenThoughts-114k 复现并拆解 Thinking Machines 的 LoRA 专用优化器 Dimuon，称 anpaure 逆向实现的 Dimuon 变体在 rank 16/64/256 上均优于调优后的 AdamW，rank 256 时领先 1.7e-3。 该结论受实验条件限制：因资源有限，所有消融只在 rank 16 上完成；指标为单种子（42）的留出评估损失，作者称低于约 3e-4 的差异不可解读、达到 1e-3 以上才算可靠；rank 256 的 Muon 结果仅一次运行、在第 300 步停止，并非完整扫描。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 11:32
LoRA 专用 Muon 优化器 Dimuon 到底意味着什么？报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- Hacker NewsLoRA 专用 Muon 优化器 Dimuon 到底意味着什么？
作者在 Qwen3-1.7B 上用 OpenThoughts-114k 复现实验，发现 anpaure 逆向实现的 Dimuon 变体在 rank 16/64/256 上均优于调优后的 AdamW，rank 256 时领先 1.7e-3。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。