LLM 为何不擅长设计 AI 系统

LLM 在编写调用 LLM 的软件时常常选错方案，例如让 Claude 构建符号逻辑系统来检测记忆矛盾，而非直接调用 LLM，结果数周迭代无果。作者认为主因可能是训练代码多为 LLM 出现之前所写、RLVR 环境缺少调用 LLM 的 API 凭证，以及 AI 智能体本身软件设计能力不足。