文本本不自然，而 LLM 正建立在其上
热点事件持续更新
文本本不自然，而 LLM 正建立在其上
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一篇 Hacker News 文章提出，文本是对感知现实的有损符号压缩，而 LLM 几乎完全在这一压缩层上训练，学到的是二手描述而非真实体验。文章称，模型读取的是压缩算法切出的 subword token，因此连“strawberry 里有几个 r”这类问题都可能出错。 文章据此主张，视频与音频是更密集的 grounding 来源，多模态学习应作为基础，文本则作为其上的抽象与接口层。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 17:33
文本本不自然，而 LLM 正建立在其上报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- Hacker News文本本不自然，而 LLM 正建立在其上
文本是对感知现实的有损符号压缩，而 LLM 几乎完全在这一压缩层上训练，学到的是二手描述而非真实体验。模型读取的是压缩算法切出的 subword token，因此连“strawberry 里有几个 r”都可能出错。视频与音频是更密集的 grounding 来源，多模态学习应作为基础，文本则作为其上的抽象与接口层。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。