跳到正文
Hacker News· IndependentRese·· 2 小时前AI 评分32

推理 LLM 上下文退化的实时遥测分析

Real-Time Telemetry Analysis of Context Degradation in Reasoning LLMs

AI 导读

一篇论文提出非侵入式遥测相位转变分析与确定性上下文保护架构,在模型协议边界持续追踪外部物理遥测,无需语义检查生成文本。实验显示深度推理转向认知崩溃前,局部方差会从 16.6% 骤降至 3.8%,延迟与输出 token 相关性升至 r → +0.985。基于 0.0168 ms 的原生评估引擎在 792 个累计轮次上验证,确定性回滚可完全阻止认知崩溃。

来源:Hacker News · zenodo.org