Hacker News· simonpure·· 3 小时前AI 评分38
InfiLoop：为 Looped Transformer 引入循环原生残差连接，解决潜在过度思考
Scaling to Test-Time Iterations with Loop-Native Attention
AI 导读
论文提出 InfiLoop，一种循环原生残差连接，通过学习内容加权与时间衰减来保留有用的中间状态，解决 Looped Transformer 迭代增多时的"潜在过度思考"问题。
来源：Hacker News · arxiv.org