Luma AI 提出 MARBLE 序列并行方法
热点事件持续更新
Luma AI 提出 MARBLE 序列并行方法
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Luma AI 提出 MARBLE（Mask-Aware Ring with Balanced, Lossless Execution）序列并行方法，用于处理打包的多模态序列。该方法通过块稀疏规划和逐 token 元数据在 rank 间均衡负载，并在 ring 步骤间用在线 FA4 kernel 以 fp32 保留 softmax 状态，使输出与梯度对齐单 GPU 结果。 Luma AI 称，代码、布局和基准测试将发布；当前文章只介绍主要思路，完整评估和更多实现细节留待后续技术报告。
AI 根据报道生成 · 1 小时前更新
最新进展10月20日 15:08
Marble：面向打包多模态掩码的精确序列并行方案报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- Hacker NewsMarble：面向打包多模态掩码的精确序列并行方案
Marble 是面向打包多模态序列的序列并行方案，以块稀疏规划和逐 token 元数据在 rank 间均衡负载，并用在线 FA4 kernel 在 ring 步骤间以 fp32 保留 softmax 状态，使输出与梯度对齐单 GPU 结果。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。