【第742期】灾难性记忆：提示词注释与智能代理指令膨胀

今天的这篇的主题是： Why Does CLAUDE.md Keep Growing? Catastrophic Remembering in Agentic Coding Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 像这样的 Agent 编程 README 在真实代码库中会无休止地膨胀，只有在代码库停用或有人全面重写该文件时才会停止。我们将这一现象归因于“不完全回忆”（imperfect recall）：追加一条指令的成本总是很低，但一旦某条指令背后的合理依据（rationale）不复存在，要在不冒正确性退化（correctness regression）风险的前提下删除它，在包含 ∣D∣ 条指令的提示词中需要付出 O(2∣D∣) 的成本。我们将由此产生的发散现象称为灾难性记住（catastrophic remembering），它是连续学习所围绕的“灾难性遗忘”（catastrophic forgetting）的反面。 首先，我们在 1,867 个代码库的 247,694 个指令生命周期中对这一现象进行了表征：Agent 提示词会无休止地增长，在其生命周期内翻了三倍以上（+226%），每次提交净增加 +4.9 条指令；此外，一条指令存在的时间越长，它被删除的可能性就越小（对数风险比为 -0.032/次提交）。 然后，我们证明了“提示词注释”（prompt comments）可以遏制这种增长：反转 IFEval 可以产生最佳提示词已知的可验证世界，而在这些世界中，编码了隐性推理（latent reasoning）的注释减少了 99.3% 的多余指令（增幅从 +211.3% 降至 +1.4%）。 最后，将同样的反转应用于 WildIFEval，我们展示了提示词注释可以将真实世界中的 Agent 指令遵循能力提高多达 23.1%。 如果英语就是新的代码，那为什么我们还没有注释呢？ 原文链接：https://arxiv.org/abs/2608.11095 前往小宇宙评论区与主播互动