Skip to content
Artwork for Seventy3
Seventy3 · Today · 19 min

【第773期】ParSer:大模型智能体的并行阅读与深度推理

今天的这篇的主题是: PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要,也不是泛泛而谈,而是让 AI 帮你把论文掰开揉碎,说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域,每期挑一篇值得关注的工作,用对话的方式聊给你听。你可以在通勤路上听,做实验的时候听,也可以当背景音放着,让新知识自然地长进脑子里。 如果你正在做有意思的研究,想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们,我们帮你用 AI 做一期深度解读,让你的工作被更多同路人发现。 联系小助手微信:eccstartup(加群/投稿论文) Summary 顺序记忆智能体(Sequential memory agents)通过逐块读取长文档并维持紧凑的记忆状态来处理文本,这使得文档遍历与推理深度被紧紧耦合在一起。这种耦合不仅导致模型对证据的位置极具敏感性,还将推理延迟与文档长度线性绑定。 为此,我们提出了 PARSER,它实现了“阅读”与“推理”的解耦。系统设立了一组轻量级子智能体,每个子智能体专注于单个文本块,共同并行读取整份文档;与此同时,一个主智能体通过多轮迭代的“散射-聚集”(scatter-gather)过程来进行深度推理:在每一轮中,主智能体向所有子智能体广播查询,聚合返回的证据,并根据目前已发现的内容构建更深层次的后续查询。这种解耦设计将所有可学习的行为集中在主智能体身上,并使用强化学习对主智能体进行优化,而子智能体则保持冻结且无需额外训练(使用现成模型)。 在上下文长度从 7K 到 896K token 不等的多跳问答(Multi-hop QA)测试中,以 4B 模型作为骨干网络(backbone)的 PARSER 比最强的顺序记忆基线平均高出 5.7 分,在 896K token 处高出 12.0 分。当扩展至 9B 骨干网络时,PARSER 超越了 DeepSeek-V4-Pro 6.3 分。对照实验证实,PARSER 对证据的位置、顺序和距离的扰动具有很强的鲁棒性(而这些条件会导致顺序处理方法产生剧烈的准确率波动),同时将推理延迟降低了高达 11 倍。 原文链接:https://arxiv.org/abs/2609.06702 前往小宇宙评论区与主播互动

0:00-19:21

transcript

No transcript — this publisher did not publish one.

show notes

今天的这篇的主题是: PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要,也不是泛泛而谈,而是让 AI 帮你把论文掰开揉碎,说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域,每期挑一篇值得关注的工作,用对话的方式聊给你听。你可以在通勤路上听,做实验的时候听,也可以当背景音放着,让新知识自然地长进脑子里。

如果你正在做有意思的研究,想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们,我们帮你用 AI 做一期深度解读,让你的工作被更多同路人发现。

联系小助手微信:eccstartup(加群/投稿论文)

Summary

顺序记忆智能体(Sequential memory agents)通过逐块读取长文档并维持紧凑的记忆状态来处理文本,这使得文档遍历与推理深度被紧紧耦合在一起。这种耦合不仅导致模型对证据的位置极具敏感性,还将推理延迟与文档长度线性绑定。

为此,我们提出了 PARSER,它实现了“阅读”与“推理”的解耦。系统设立了一组轻量级子智能体,每个子智能体专注于单个文本块,共同并行读取整份文档;与此同时,一个主智能体通过多轮迭代的“散射-聚集”(scatter-gather)过程来进行深度推理:在每一轮中,主智能体向所有子智能体广播查询,聚合返回的证据,并根据目前已发现的内容构建更深层次的后续查询。这种解耦设计将所有可学习的行为集中在主智能体身上,并使用强化学习对主智能体进行优化,而子智能体则保持冻结且无需额外训练(使用现成模型)。

在上下文长度从 7K 到 896K token 不等的多跳问答(Multi-hop QA)测试中,以 4B 模型作为骨干网络(backbone)的 PARSER 比最强的顺序记忆基线平均高出 5.7 分,在 896K token 处高出 12.0 分。当扩展至 9B 骨干网络时,PARSER 超越了 DeepSeek-V4-Pro 6.3 分。对照实验证实,PARSER 对证据的位置、顺序和距离的扰动具有很强的鲁棒性(而这些条件会导致顺序处理方法产生剧烈的准确率波动),同时将推理延迟降低了高达 11 倍。

原文链接:https://arxiv.org/abs/2609.06702


前往小宇宙评论区与主播互动
links2