AI 让我当众出丑后，我重新理解了该如何信任它

天文学家在展示其空洞搜寻算法 VIDE 的更新版时被合作者当场指出边缘处理逻辑错误，导致整条下游结果全部作废；该版本比旧版快 10 倍、可处理大 100 倍的巡天数据，代码由 coding agent 重写并生成图表与说明。作者认为 LLM 本质是下一词预测器，正确性只是副产物，其流畅与自信是被人类偏好调优出来的，因此不能简单信任这类"有时出错但总是讨喜"的工具。