跳到正文
Hacker News· ZeroCool2u·· 2 小时前AI 评分65

Q Labs 发布 Noise 预训练基准:不跑反向传播,十天提速 4000 倍

Noise: Speedrun for Pretraining Without Backpropagation

AI 导读

Q Labs 发布 Noise 预训练基准,在固定 37.7M 参数 GPT、10M token FineWeb 数据和验证集交叉熵的条件下,比较不使用反向传播的学习算法。

来源:Hacker News · qlabs.sh