跳到正文
Hacker News· mrkn1·· 2 小时前AI 评分55

GSLM2 提出多流语音表示学习与生成式口语语言建模

GSLM2 MultiStream Speech Rep Learning and Gen Spoken Language Modeling

AI 导读

论文提出 GSLM2,用编码器 SpidR 2.0 通过自监督学习在多个抽象层级上生成离散语音单元,再由多流 SLM 用共享时间骨干和流特定预测器联合建模。训练数据规模最高 6M 小时、模型参数最高 6.5B,在 sWuggy、sBLIMP、tSC 上把语音与文本语言模型的差距缩小约两个数量级,并在三项任务上超过对比的语音-文本系统。训练代码和模型 checkpoint 已开源。

来源:Hacker News · arxiv.org