并行语言模型 PLMs：用变分解码一次前向生成多个 token

研究者提出并行语言模型（PLMs），通过潜在辅助变量在一次前向中生成相互一致的多个 token，训练用变分下界，等价于自回归损失加并行解码损失。预训练 PLMs 在 80M 至 3B 参数规模上接近自回归预训练损失，加速比随模型规模呈幂律增长。1.3B 模型后训练后在数学、编程和指令遵循基准上追平或超过同规模自回归模型，推理提速 2.3-5.7 倍。