TechnologyEducationScience

Seventy3

任雨山

73播客，Sheldon最喜欢的数字，内容均为Google NotebookLM原生生成，每天由AI领读最新的前沿论文。欢迎投稿合作。

Play

Open in

44 episodes
daily
Avg 19 min
Chinese

Episodes 44

Newest Oldest Longest

All20 Unplayed20 In progress0 Played0

Counted on this page — what you have heard stays on this device, so it is not something the list can be paged by.

Sunday · 18 min
【第707期】自进化AI智能体综述：从模型优化到框架增强
今天的这篇的主题是：Self-Improvements in Modern Agentic Systems: A Survey Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 自我改进型自主 Agent（Self-improving autonomous agents）正在从研究原型走向部署系统。其核心目标是实现可控演进（controllable evolution）或自适应——即在极少甚至完全没有人类介入的情况下，从经验中不断进化。本综述将现代自我改进型 Agent 构想为一种自适应系统，该系统能够将经验转化为累积的能力提升。我们提出了一个系统级框架，将现代 Agent 表征为一种配置（configuration）：该配置将基础模型与由 Prompt、记忆、工具和控制逻辑构成的运行支架（operational scaffold）相耦合。在该框架下，自我改进被形式化定义为一个自感应更新算子（self-induced update operator），该算子负责获取并向模型参数或支架组件提交更新。我们按照更新目标与驱动变更的信号对现有工作进行了梳理归类，随后综述了相关应用并讨论了评估方法，最后以开放性问题与未来方向进行了总结。原文链接：https://arxiv.org/abs/2607.13104 前往小宇宙评论区与主播互动
Saturday · 22 min
【第706期】Paper-replication：科学机器学习的编码代理工作流
今天的这篇的主题是：Coding-agents can replicate scientific machine learning papers Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 科学机器学习（Scientific machine learning）论文通常会提出具体的计算主张，例如：相对均方误差小于 5%，或 95% 的预测置信区间覆盖了测试数据。即便仅依靠论文材料，也可以提示编码 Agent 去复现这些主张；然而，提示词本身并不能可靠地记录复现进度，也无法检验生成的证据是否真正支持论文的主张。为此，我们引入了 Paper-replication：一种将选定的论文主张转化为带有记录证据的“目标”（target）的工作流，并将其实现为一种编码 Agent 技能（coding-agent skill）。该工作流使 Agent 能够记录这些目标、重构论文的方法、运行计算实验、将生成的输出与出处以及论文的主张对比进行关联、记录匹配证据在复现报告中的具体出处，并在完成前通过校验检查。我们在四篇科学机器学习论文上进行了 12 次独立运行，以此对 Paper-replication 进行了评估。所有 12 个工作区均通过了完成门槛（completion gate），且所有 158 个记录的目标均在报告中得到了匹配覆盖。即便在这些已完成的工作区状态下，多次重复运行在以下方面仍存在差异：论文被拆分为目标的方式、与源论文的数值忠实度、复现耗时、在最终证据被接受前所替换的中间执行次数，以及用于接受证据的规则。Paper-replication 使任务的最终完成依赖于工作区内的证据和校验检查，而非 Agent 本身发送的最终消息。原文链接：https://arxiv.org/abs/2607.02134 前往小宇宙评论区与主播互动
Friday · 16 min
【第705期】eContext：让AI学会划重点读长文档
今天的这篇的主题是：ReContext: Recursive Evidence Replay as LLM Harness for Long-Context Reasoning Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 长上下文的理解与推理已成为在实际应用中部署大语言模型（LLM）的核心需求。尽管近期的 LLM 支持越来越长的上下文窗口，但它们往往无法有效利用输入中已存在的关键证据，这揭示了“上下文接入”与“上下文有效利用”之间存在差距。在本研究中，我们提出了 RECONTEXT（Recursive Evidence Replay as LLM Harness for Long-Context Reasoning，基于递归证据重放的长上下文推理 LLM 框架），这是一种用于提升长上下文推理能力的无须训练的推理阶段方法（training-free inference method）。RECONTEXT 利用模型内部的相关性信号构建一个以查询为条件的证据池，并在最终生成前对其进行重放，同时完整保留原始上下文。这一递归选择过程在不进行训练、不使用外部记忆库也不剪枝上下文的前提下，实现了证据组织与答案生成的剥离。此外，我们还基于联想记忆（associative memory）提供了理论分析：将上下文表征为记忆存储，将问题表征为检索线索，将注意力表征为线索-痕迹联结（cue-trace association），并将重放表征为痕迹再激活（trace reactivation）。在上下文长度为 128K 的 8 个长上下文数据集上的实验表明，RECONTEXT 在 Qwen3-4B、Qwen3-8B 和 Llama3-8B 模型上一致提升了证据利用率，并在所有三个基座模型上均取得了最佳平均排名。原文链接：https://arxiv.org/abs/2607.02509 前往小宇宙评论区与主播互动
Thursday · 13 min
【第704期】The Harness Effect：生成式 AI 编排层的令牌经济学
今天的这篇的主题是：The Harness Effect: How Orchestration Design Sets the Token Economics of Enterprise Agentic AI Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 当今 Agentic AI（智能体 AI）的开发建立在“Token 极值化”（token maxing）之上：即通过消耗 Token 来换取能力——更长推理链（reasoning traces）、更多轮次、更宽泛的工具载荷（tool payloads）、更庞大的重放上下文（replayed contexts）——导致每个任务消耗的 Token 数增长速度超过了任务本身的价值。单 Token 价格的下降掩盖了这一模式；总支出依然在上升。我们认为，应对 Token 极值化的关键杠杆是 Harness（调度/治理框架）：即负责组装上下文、暴露工具、排列轮次顺序、委派工作并承载企业级可观测性与治理的编排层（orchestration layer）。我们通过一项控制变量实验将其独立评估：在 22 个锁定的评估任务、6 个基础模型（Claude Sonnet 4.6、Gemini 3.1、Gemini Flash 3.5、Qwen 3.6、GLM 5.1、Palmyra X6）下，仅改变编排层——对比冻结的传统生产循环与 Writer Agent Harness。在保持模型不变的情况下，该 Harness 使单任务混合成本降低了 41%（$0.21 -> $0.12），中位数耗时（wall-clock）缩短了 44%（48s -> 27s），单任务 Token 消耗减少了 38%（14.2k -> 8.8k），同时任务完成质量保持相当（0.78 -> 0.81，在该样本量下具方向性指示意义）。效率提升具有模型无关性（model-invariant）——每个模型的成本均有所降低（33%–61%）；而质量提升则依赖于模型本身的能力：模型的质量增益与其基线能力呈近乎完美的正相关（r=0.99, n=6），我们将这一现象称为 Harness 杠杆效应（harness leverage）。每美元质量比提升了 82%；每百万 Token 完成的任务数从 54.9 增至 92.0。在该工作负载下，编排层对单任务成本的影响甚至超过了整个模型菜单的全部价差。我们在编排层对 Token 经济学进行了形式化（包括 Prompt 缓存下的有效输入价格），详细阐述了该效应背后的六大机制家族（从缓存形态规范到失效支出治理），在相同维度上对比了六种广泛使用的 Agent 系统，并论证了 Harness 是唯一能够将其效率成倍叠加到企业运行的每一个模型（无论是现有还是未来模型）之上的组件。原文链接：https://arxiv.org/abs/2607.06906 前往小宇宙评论区与主播互动
Wednesday · 20 min
【第703期】常驻 Agent（Always-on agents）：大模型持久化状态、记忆与治理综述
今天的这篇的主题是：Always-On Agents: A Survey of Persistent Memory, State, and Governance in LLM Agents Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 常驻 Agent（Always-on agents）是指其未来行为依赖于在早期交互中累积的持久状态的系统。我们将它们视为持久状态系统：该生效系统不仅包括可检索的内存，还包括任务账本、权限、凭证、承诺、出处与审计记录、共享状态、触发条件以及与这些记录相关的外部已生效影响。本综述通过每个状态项的六个诊断轴（权威性、作用域、可变性、出处、可恢复性和可行动性），以及状态经历写入、验证、组织、检索、行动、更新、遗忘、审计和有时回滚的生命周期，对相关文献进行了解读。在对 435 篇文献进行编码的语料库（将其视为范围明确的映射而非全面普查）中，现有文献更侧重于状态的累积和检索，而非状态的治理、恢复或放弃。因此，我们提出了常驻评估协议（Always-On Evaluation Protocol, AOEP-v0），这是一个试点评估契约，通过对状态变更和恢复义务进行评分（而非仅对回答质量评分），使这些治理要求具体化。由此产生的议题将常驻 Agent 与数据库、分布式系统、形式化方法、能力安全性以及机器遗忘连接起来。原文链接：https://arxiv.org/abs/2606.30306 前往小宇宙评论区与主播互动
September 1 · 22 min
【第702期】LLM-as-a-Verifier：通用验证框架与缩放范式
今天的这篇的主题是：LLM-as-a-Verifier: A General-Purpose Verification Framework Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 扩展预训练（Pre-training）、后训练（Post-training）以及测试时计算量（Test-time Compute）已成为提升大型语言模型（LLM）能力的核心范式。在这项工作中，我们将“验证能力”（即确定解决方案正确性的能力）识别为一种全新的扩展轴（Scaling Axis）。为了解锁这一维度并证明其有效性，我们提出了“LLM-as-a-Verifier”——这是一个通用的验证框架，无需额外训练即可为智能体任务（Agentic Tasks）提供细粒度的反馈。与提示 LLM 为候选方案输出离散评分的标准 LM 评测器（LM Judges）不同，LLM-as-a-Verifier 通过计算评分 Token Logit 分布的期望值来生成连续分数。这种概率化的表征方式使得验证能够沿着多个维度进行扩展：（1）评分粒度、（2）重复评估，以及（3）标准分解。特别是，我们表明扩展评分粒度可以更好地区分正确与错误方案，从而实现更加校准的对比。此外，通过降低方差和复杂度，扩展重复评估与标准分解能稳步地进一步提升验证准确率。我们还提出了一种低成本的高效排序算法，利用验证器的连续分数从候选方案中挑选出最佳结果。LLM-as-a-Verifier 在 Terminal-Bench V2 (86.5%)、SWE-Bench Verified (78.2%)、RoboRewardBench (87.4%) 和 MedAgentBench (73.3%) 上均取得了业界领先（SOTA）的性能。除了验证本身之外，来自 LLM-as-a-Verifier 的细粒度信号还可以作为估计任务进度的代理指标。我们针对 Claude Code 构建了一个扩展程序，使开发者能够监控并改进他们自己的智能体系统。最后，我们展示了 LLM-as-a-Verifier 能够为强化学习（RL）提供密集反馈，从而在机器人学和数学推理基准测试中提升 SAC 和 GRPO 的采样效率。原文链接：https://arxiv.org/abs/2607.05391 前往小宇宙评论区与主播互动
August 31 · 25 min
【第701期】AgentDNS：大语言模型智能体根域名系统
今天的这篇的主题是：AgentDNS: A Root Domain Naming System for LLM Agents Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文） Summary 大型语言模型（LLM）智能体的快速发展凸显了跨厂商服务发现、互操作性与通信方面的重大挑战。现有协议（如模型上下文协议和智能体间通信协议）在标准化智能体与工具之间的互操作性以及多智能体间的通信方面取得了显著进展。然而，目前仍缺乏针对不同智能体和工具厂商之间服务发现的标准化协议与解决方案。在本文中，我们提出了 AgentDNS，这是一个根域名命名与服务发现系统，旨在使 LLM 智能体能够自主地跨越组织和技术边界，对第三方智能体及工具服务进行发现、解析和安全调用。受传统 DNS 原理的启发，AgentDNS 引入了包含服务注册、语义服务发现、安全调用和统一计费的结构化机制。我们详细阐述了 AgentDNS 的架构、核心功能与应用场景，展示了其在真实场景中简化多智能体协作的巨大潜力。原文链接：https://arxiv.org/abs/2505.22368 前往小宇宙评论区与主播互动
August 30 · 19 min
【第700期】智能体网络协议（ANP）技术白皮书
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： Agent Network Protocol Technical White Paper Summary 随着大模型和自主决策 AI 的发展，Agent 正迅速成为继移动应用（Apps）之后互联网上的新型主体。然而，现有的互联网基础设施主要是为人类交互而设计的，这导致了数据孤岛、对 Agent 不友好的交互界面以及 Agent 之间高昂的协作成本，难以支撑大规模 Agent 互联与协作的需求。互联网正在经历一场深刻的变革，并呈现出四大核心趋势：Agent 替代传统软件、泛在 Agent 互联、基于原生协议的连接，以及自主 Agent 组织与协作。为了顺应这些趋势，Agent 网络协议（Agent Network Protocol, ANP）为 Agent 化网络（Agentic Web）提出了一套新一代通信协议。ANP 坚持 AI 原生设计，保持与现有互联网协议的兼容性，采用模块化可组合架构，遵循极简且可扩展的原则，并能够基于现有基础设施实现快速部署。通过由身份与加密通信层、元协议协商层和应用协议层构成的三层协议体系，ANP 系统性地解决了 Agent 的身份认证、动态协商以及能力发现与互操作性问题。原文链接：https://arxiv.org/abs/2508.00007 前往小宇宙评论区与主播互动
August 29 · 25 min
【第699期】LLM智能体互操作性协议综述
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： A survey of agent interoperability protocols: Model Context Protocol (MCP), Agent Communication Protocol (ACP), Agent-to-Agent Protocol (A2A), and Agent Network Protocol (ANP) Summary 基于大语言模型的自主 Agent（LLM-powered autonomous agents）需要强健、标准化的协议，以便在异构系统间集成工具、共享上下文数据并协调任务。点对点的特定集成（ad-hoc integrations）难以在大规模扩展、安全保障以及跨领域通用化方面取得突破。本综述探讨了四种新兴的 Agent 通信协议：模型上下文协议（Model Context Protocol, MCP）、Agent 通信协议（Agent Communication Protocol, ACP）、Agent 到 Agent 协议（Agent-to-Agent Protocol, A2A）以及 Agent 网络协议（Agent Network Protocol, ANP），它们分别解决了不同部署场景下的互操作性问题： MCP 提供了一个用于安全工具调用和类型化数据交换的 JSON-RPC 客户端-服务器接口。 ACP 定义了一种基于 RESTful HTTP 的通用通信协议，支持 MIME 类型的多部分消息（multipart messages）以及同步和异步交互。其轻量化且独立于运行时的设计实现了可扩展的 Agent 调用，同时具备会话管理、消息路由以及与基于角色的标识符和去中心化标识符（DIDs）集成等特性。 A2A 利用基于权能的“Agent 卡片”（Agent Cards）实现点对点（peer-to-peer）的任务委托，支持企业 Agent 工作流中安全且可扩展的协作。 ANP 利用 W3C 去中心化标识符（DIDs）和 JSON-LD 图谱，支持开放网络下的 Agent 发现与安全协作。本文在交互模式、发现机制、通信模式和安全模型等多个维度上对这些协议进行了对比。基于对比分析，本文提出了一个分阶段的采纳路线图：首先引入 MCP 用于工具接入；随后引入 ACP，用于在基于 HTTP 的可扩展部署中实现结构化、多模态的消息传递、感知会话的交互，以及在线和离线的 Agent 发现；接着引入 A2A 用于协同任务执行；最终扩展至 ANP，以支持去中心化的 Agent 市场。本研究为设计安全、可互操作且具扩展性的 LLM Agent 生态系统提供了全面的基础。原文链接：https://arxiv.org/abs/2505.02279 前往小宇宙评论区与主播互动
August 28 · 15 min
【第698期】AIP：大模型上下文协议与代理间通信的可验证委派协议
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： AIP: Agent Identity Protocol for Verifiable Delegation Across MCP and A2A Summary AI Agent 越来越频繁地通过模型上下文协议（MCP）调用工具，并经由 Agent 到 Agent（A2A）协议将任务委托给其他 Agent，然而这两个协议目前均未对 Agent 身份进行验证。对约 2,000 个 MCP 服务器的扫描发现，所有服务器都缺乏身份验证。在我们的调查中，尚未发现先前有已实现的协议能够联合融合公钥可验证委托、持有者侧权能衰减（holder-side attenuation）、具表达力的链式策略、跨 MCP/A2A/HTTP 的传输绑定，以及面向出处的完成记录。我们提出了调用绑定权能令牌（Invocation-Bound Capability Tokens, IBCTs），这是一种将身份、衰减授权和出处绑定融合到单个仅追加（append-only）令牌链中的原语。IBCTs 以两种传输格式运行：紧凑模式（用于单跳场景的签名 JWT）和链式模式（带有用于多跳委托的 Datalog 策略的 Biscuit 令牌）。我们提供了 Python 和 Rust 的参考实现，具备完整的跨语言互操作性。紧凑模式的验证在 Rust 中耗时 0.049ms，在 Python 中耗时 0.189ms；在真实的基于 HTTP 的 MCP 部署中，相比无身份验证仅增加 0.22ms 的开销。在结合 Gemini 2.5 Flash 的真实多 Agent 部署中，Agent 身份协议（AIP）增加了 2.35ms 的开销（占总端到端延迟的 0.086%）。跨 600 次攻击尝试的对抗性评估显示出 100% 的拦截率；其中两种攻击类型（委托深度违规，以及通过空上下文逃避审计）能够被 AIP 的链式委托模型独家捕获，而无签名或纯 JWT 部署均无法检测出这两类攻击。原文链接：https://arxiv.org/abs/2603.24775 前往小宇宙评论区与主播互动
August 27 · 16 min
【第697期】早期推理涌现：大模型推理数据的代币高效筛选
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： Reasoning Quality Emerges Early: Data Curation for Reasoning Models Summary 在少量高质量的长推理轨迹（long reasoning traces）数据集上进行监督微调（SFT），是激发大语言模型（LLMs）强大推理能力的有效方法。然而，现有用于筛选高质 SFT 数据的方法高度依赖强推理模型来根据多样性和难度筛选样本，这导致数据筛选过程成本高昂，且往往只能得到次优的数据质量。在这项工作中，我们展示了仅利用初始的推理 Token 即可识别出具备多样性且富有挑战性的推理样本。具体而言，我们证明了：仅需根据预训练模型在随机扰动检查点（randomly perturbed checkpoint）下评估的前 100 个推理 Token 的损失（loss），就能可靠地检测出难题。我们进一步证明，在沿微调轨迹推断的少数扰动检查点上，在前 1k 个推理 Token 中表现出相似 Loss 模式的样本，在证明上（provably）会诱导出相似的梯度。我们通过在 M23K 医疗推理数据集和 OpenThoughts-Math 数据集上微调 Qwen2.5-7B 与 Llama3.1-8B 模型的广泛实验验证了该方法。我们的方法在 Token 效率提升 91% 的同时，性能超越了现有基线高出最多 1.7%。原文链接：https://arxiv.org/abs/2606.26797 前往小宇宙评论区与主播互动
August 26 · 19 min
【第696期】强化学习元认知反馈：大模型不确定性的忠实表达
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs Summary 元认知（Metacognition）是智能的核心组成部分，它描述了监控和调节自身认知过程的能力。然而，大语言模型（LLMs）在关键的元认知功能上展现出了系统性缺陷：它们以高度的自信产生幻觉、无法识别自身的知识边界，并歪曲其内部的不确定性——这严重削弱了模型的信任度与可靠性。由于监控任务表现并据此调整行为是元认知能力的核心，我们假定：能够准确判断自身表现的模型，更有能力去提升这种表现。我们通过两种新颖的机制将这一思想付诸实践：元认知反馈强化学习（RLMF）：一种在偏好优化过程中，基于模型对自身表现自我判定的质量，来精炼补全结果（completion）排序的范式；元认知数据选择：利用类似的自我判定来识别高价值训练样本，其效果超越了朴素的主动学习（naive active learning）。我们将这些创新应用到忠实对齐校准（Faithful Calibration, FC）问题上，该任务本身就具备根本上的元认知属性：其目标是将表达出的不确定性与内在的不确定性保持一致，这即使对于前沿 LLM 而言也极具挑战。我们采用了解耦的两阶段方法：首先利用这些方法来校准模型自我报告的自信度得分的忠实度；随后通过有针对性的输出编辑，将其映射为自然且能适应上下文的语言学不确定性表达。广泛的实验表明，RLMF 在保持准确率的同时，在多样化的任务上实现了具备泛化能力且达到 SOTA 水平的忠实对齐校准（FC）。此外，RLMF 的表现超越了标准强化学习（RL）高达 63%，同时增强了模型评估和表达自身能力边界的能力。这使得 RLMF 成为了一种极具前景的范式，能够提升 LLM 的元认知能力，进而推动能力与对齐（alignment）的改善；同时也表明元认知表现可以作为一种有效的强化学习信号，用以克服先前内在反馈方法的局限性。原文链接：https://arxiv.org/abs/2606.32032 前往小宇宙评论区与主播互动
August 25 · 20 min
【第695期】AUTOMEM：记忆认知技能的自动学习研究
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： AUTOMEM: Automated Learning of Memory as a Cognitive Skill Summary 记忆专业能力（Memory expertise）是一项后天学会的技能：明确该编码什么、何时进行检索以及如何组织知识——这一能力在认知科学中被称为元记忆（metamemory）。我们通过将记忆管理视为一项可训练的技能，将这一视角引入到大语言模型（LLMs）中。我们将文件系统操作提升为与任务动作平起平坐的一等记忆动作（first-class memory actions），让模型自身来决定如何管理其记忆。这种记忆技能沿着两个轴线进行提升：支持它的结构（Prompt、文件 Schema、动作词表），以及运用该技能的模型熟练度。然而，这两个轴线都难以通过人工优化来实现：长流程任务中的单次 episode 会运行数千个步骤，而且单个记忆错误可能在隐蔽很久之后才会浮出水面，这使得人类对完整轨迹进行评审变得不可行。我们提出了 AutoMem，一个将上述两个轴线全自动化的框架。在第一个循环中，一个强 LLM 会评审 Agent 的完整轨迹，并迭代修改塑造 Agent 如何与其记忆文件交互的记忆结构。在第二个循环中，系统会从许多 episode 中识别出 Agent 自身做出的优秀记忆决策，并将其作为训练信号，直接提升模型的记忆熟练度。在三个程序生成的长流程游戏（Crafter、MiniHack 和 NetHack）中，仅通过优化记忆——而不修改模型的任务动作行为——就将基线 Agent 的性能提升了约 2 到 4 倍，使得一个 32B 参数的开源模型能够具备与 Claude Opus 4.5 和 Gemini 3.1 Pro Thinking 等前沿系统相媲美的竞争力。我们的结果表明，记忆管理是一项可以独立学习的技能，也是一个能够在长流程任务中带来巨大收益的高杠杆目标。原文链接：https://arxiv.org/abs/2607.01224 前往小宇宙评论区与主播互动
August 24 · 19 min
【第694期】SkillComposer：大语言模型智能体的生成式技能组合方案
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： Generative Skill Composition for LLM Agents Summary 近期的大语言模型 Agent（LLM agents）得益于技能（Skills）来解决复杂任务。技能封装了执行特定任务（例如搭建沙箱环境、运行测试套件或跨多个文件重构函数）的模块化程序性知识与指令包。随着技能库不断扩大并在不同任务和领域间得以复用，选择合适的技能组合（skill composition）已成为核心瓶颈。现有方法主要分为两类：一类是将 Agent 的推理完全暴露给整个技能集；另一类是通过嵌入向量（embeddings）或基于 LLM 的重排序器（rerankers）来进行技能检索。这两类方法虽然都提供了有价值的见解，但它们忽略了技能组合的结构化特性——这是一种关于“选用哪些技能、使用多少个以及以何种顺序执行”的联合决策，而这三个维度是无法解耦的。我们将此形式化为结构化技能组合（structured skill composition）：给定一项任务和一个技能库，预测出一个可执行的技能计划，该计划联合指定了激活的子集、数量和执行顺序。我们提出了 SkillComposer，它将结构化技能组合实例化为基于任务条件的技能序列预测。SkillComposer 在技能标识符（skill identifiers）上使用受约束的自回归解码器，从而使子集、数量和顺序在单次解码过程中共同产生，并且顺次发生的技能之间的依赖关系能够被自然地捕获。我们从真实的人工整理技能库中构建了一个“任务-组合”对的训练集。随后，我们从两个维度对 SkillComposer 进行了评估：留出测试集上的组合质量，以及在 SkillsBench 上跨两个生产级编程 Agent 的下游任务成功率。在 GPT-5.2-Codex 和 Gemini-3-Pro-Preview 上，SkillComposer 相较于无技能基线（no-skill baseline）将通过率分别提升了 +23.1 和 +18.2 个百分点，不仅超越了 Top-3 检索，还在更低的 Prompt Token 成本下达到了黄金技能检索（gold-skill retrieval）的性能上限。原文链接：https://arxiv.org/abs/2606.32025 前往小宇宙评论区与主播互动
August 23 · 20 min
【第693期】Google论文助手：迈向自动化科学评审之路
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： Towards Automating Scientific Review with Google’s Paper Assistant Tool Summary 人工智能正推动着科学发现领域的一场变革，从假设生成到数学定理证明，全方位加速着科研进程。然而，这种飞速的提速正引发一项系统性挑战：传统的人类同行评审规模难以跟上 AI 辅助科学成果的爆炸式增长。归根结底，要化解这一紧张局势，我们必须同样部署 AI 来加速验证和评审过程本身。为了围绕这一转型展开探讨，我们提出了一个包含四个渐进层级的分类法，用于划分 AI 与人类在科学评估中的协作关系，并讨论了每个层级涉及的各种权衡。作为迈向这一未来的一步，我们推出了“论文助手工具”（Paper Assistant Tool, PAT），这是一个专为深度科学评审与验证而构建的 Agent 式 AI 框架。PAT 可以摄入整篇科学手稿并生成综合评估，包括检查理论结果、验证实验、提出改进建议以及识别潜在缺陷。通过运用推理扩展技术（inference scaling techniques），PAT 能够比单次模型调用发现更深层次的问题，在 SPOT 基准测试的数学错误识别上相比零样本（zero-shot）召回率提升了 34%。PAT 在两大计算机科学顶级会议——STOC 和 ICML——被作为作者提交前（pre-submission）工具进行了试点部署，结果表明它具备识别关键错误并对研究论文提出实质性改进建议的能力。通过尽早捕抓错误，PAT 减轻了审稿人的认知负担，同时保留了他们对评审最终结果的控制权。原文链接：https://arxiv.org/abs/2606.28277 前往小宇宙评论区与主播互动
August 22 · 17 min
【第692期】验证之境：编程智能体的演进与协同
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： The Verification Horizon: No Silver Bullet for Coding Agent Rewards Summary 经典的直觉认为，验证一个解法要比生成一个解法更容易。然而对于当下的编程 Agent 而言，这一直觉正在被颠覆：随着基础模型具备更强的推理能力，以及工程框架（harnesses）变得日益精密，生成复杂的候选解法已不再困难——可靠地验证它们反而成了更棘手的问题。我们所能构建的每一个验证器都只是人类意图的替代品（proxy），而非意图本身。这使得验证面临着双重困境：首先，意图在本质上是不明确的（underspecified），这使得忠实地检查意图是否得到满足变得天然困难；其次，在模型训练期间，优化过程会扩大替代品与意图之间的差距——表现为奖励破解（reward hacking）或信号饱和（signal saturation）。为了解决这一问题，我们从三个维度刻画了验证信号的质量——可扩展性（scalability）、忠实度（faithfulness）和鲁棒性（robustness），并提出同时实现这三者是当前的核心挑战。我们进一步研究了四种奖励构造：用于通用编程任务的测试验证器（test verifier）、用于前端任务的量规验证器（rubric verifier）、用于真实世界 Agent 任务的“用户即验证器”（user as verifier），以及用于长流程任务的自动化 Agent 验证器（automated agent verifier）。针对不同的任务类型和策略能力水平，我们就奖励设计的核心挑战以及如何更有效地利用奖励信号进行了深入的分析与实验。实验表明，有针对性的验证设计能够有效抑制奖励破解，提升任务完成质量，并在多个内部及公开基准测试中取得显著收益。这些实践共同指向了一个核心观察：随着策略能力的持续增长，没有任何固定的奖励函数能够保持有效；验证机制必须与生成器协同演化（co-evolve）。原文链接：https://arxiv.org/abs/2606.26300 前往小宇宙评论区与主播互动
August 21 · 20 min
【第691期】MCP服务器架构模式
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： MCP Server Architecture Patterns for LLM-Integrated Applications Summary 模型上下文协议（Model Context Protocol，简称 MCP）由 Anthropic 于 2024 年 11 月推出，它定义了一个标准化接口，用于将大型语言模型（LLM）连接到外部工具、数据源和服务。在发布后的几个月内，GitHub 上就涌现出了数百个由社区构建的 MCP 服务器，但目前尚无软件维护方面的文献对该生态系统在生产环境中的构建方式进行过描述。本篇行业经验论文对通过枚举包含 15 个独立开发的服务器（包括来自 ANSYR 语音 AI 平台的 5 个生产服务器，以及来自官方 MCP 注册表的 10 个公共服务器）组成的语料库所观察到的五种循环出现的 MCP 服务器架构模式进行了分类编目：资源网关（Resource Gateway）、工具编排器（Tool Orchestrator）、有状态会话服务器（Stateful Session Server）、代理聚合器（Proxy Aggregator）和特定领域适配器（Domain-Specific Adapter）。每种模式都采用了 Gamma 等人（设计模式“四人帮”）的结构化形式进行描述：上下文、问题、解决方案以及后果。我们还记录了四种反模式（anti-patterns），以及围绕身份验证、版本控制和可观测性的一系列横切关注点（cross-cutting concerns）。定量评估贡献了三项测量结果：跨两个独立 LLM 评估员在 54 个留出（held-out）服务器上针对该分类法算出的评分者间一致性（Cohen's kappa = 0.76），这也定位出了三种模式边界的歧义性；在环回（loopback）路径上实测并针对跨主机路径建模的端到端传输开销；以及一项工具数量研究，结果显示对于 Claude Haiku 4.5，当每个上下文包含 10 到 15 个工具时，工具选择准确率会降至 90% 以下，而对于 Sonnet 4，该临界值在 20 到 30 个工具之间。代码、语料库和提示词已作为复现包发布。原文链接：https://arxiv.org/abs/2606.30317 前往小宇宙评论区与主播互动
August 20 · 17 min
【第690期】红皇后哥德尔机：共进化代理与评估器
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators Summary 自我提升 Agent（Self-improving agents）在 Agent 编程基准测试中达到了 SOTA（当前最佳水平），并且最近已被扩展到通用领域。然而，它们的搜索方法通常假设一个静态的评估标准：一个固定的验证器、基准测试或标注数据集，并且在 Agent 提升的过程中始终有效。这忽视了演化的一个核心特征：物种会随着环境的改变而发生适应性变化。我们的目标是将相同的原则引入递归自我提升中，将评估纳入提升循环，并向不断演化的评估器、对抗性目标和可能超越静态基准的动态效用函数（dynamic utilities）开放搜索。我们提出了红皇后哥德尔机（Red Queen Gödel Machine, RQGM），这是一个在非静态效用函数下实现递归自我提升的演化框架。RQGM 通过受控的效用函数演化使这成为可能：搜索被划分为多个 epoch，每个 epoch 内部保持固定的评估标准，而在 epoch 的边界处可以更新效用函数；因此，随着目标跨 epoch 演化，每个 epoch 内部依然能够保持自我提升的保证。我们首先表明，即使在可验证的编程任务上，RQGM 通过引入互补的“Agent 即裁判”（agent-as-a-judge）代码审查信号，相较于先前的 SOTA 提高了测试通过率。该信号的成本更低，且 RQGM 消耗的 Token 减少了 1.35 倍至 1.72 倍。随后，我们转向科学论文撰写与评审，以及奥林匹克级别的定理证明与批改任务，在这些领域中，RQGM 相比先前的自我提升 Agent 均取得了性能提升：共同演化（co-evolved）的论文撰写者在多元化的“Agent 即裁判”评审团下取得了 1.78 倍至 1.86 倍更高的接受率，而共同演化的批改者在真实标准（ground-truth）上的准确率提升了 9%。在论文评审中，最强的基线评审员对 AI 生成论文的过高接受率可达人类论文的 1.91 倍。RQGM 通过引入对抗性目标纠正了这一现象，从而发现了对 AI 和人类作品保持同等严苛程度的评审员。原文链接：https://arxiv.org/abs/2606.26294 前往小宇宙评论区与主播互动
August 19 · 26 min
【第689期】[Ledger]去中心化交易所的演变：机遇、风险与监管策略
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： The Evolution of Decentralized Exchanges: Promise, Peril, and Policy Changes Summary 去中心化交易所（DEX）给监管和投资者保护带来了挑战；尽管如此，它们也为去中介化和透明度提供了诸多机遇。本文探讨了 DEX 的过去与现状，并指出监管机构应当认识到它们的风险与前景，采取兼顾灵活性与投资者保护的监管策略。原文链接：https://ledgerjournal.org/ojs/ledger/article/view/613 前往小宇宙评论区与主播互动
August 18 · 14 min
【第688期】Skill-MAS：多智能体系统的元技能进化框架
Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。联系小助手微信：seventy3_podcast（加群/投稿论文）今天的这篇的主题是： Skill-MAS: Evolving Meta-Skill for Automatic Multi-Agent Systems Summary 基于大语言模型（LLM）的自动多智能体系统（MAS）生成已成为解决复杂任务的重要前沿方向。然而，现有的方法在“模型能力”与“经验保留”之间面临着两难困境：推理阶段 MAS 利用了冻结的顶尖 LLM，但因无法从过去经验中学习而导致重复相同的搜索；相反，训练阶段 MAS 通过梯度更新内化经验，却受限于较小模型较低的能力上限，且难以扩展至大型顶尖 LLM。为弥合这一差距，我们提出了 Skill-MAS，这是一种全新的“第三条路径”——它将高层级编排能力概念化为一种可进化的元技能（Meta-Skill），从而将经验保留与参数更新解耦。Skill-MAS 通过闭环优化机制来提炼该架构知识：(1) 多轨迹采样（Multi-Trajectory Rollout）：在当前元技能下，针对每个任务采样行为分布；(2) 选择性反思（Selective Reflection）：自适应选择高优先级任务，并运用分层对比分析将系统性经验提炼为通用的策略级原则。在 4 个复杂基准测试和 4 个不同 LLM 上的广泛实验表明，Skill-MAS 不仅取得了显著的性能提升，还保持了极佳的性价比。进一步的分析表明，进化出的元技能具有极高的鲁棒性，并在未见过的任务及不同的 LLM 之间展现出强大的可迁移性。原文链接：https://arxiv.org/abs/2606.18837 前往小宇宙评论区与主播互动

Showing 1–20 of 44 episodes