从免费披萨到订错机票：硅谷创业者正在解决 Agent 的哪些麻烦？ | 硅谷线下活动 S10E33
最近几个月，像 Meta 的 Muse，OpenAI 的 Dots 这样的 Personal agent 产品大火。模型不仅越来越擅长调用工具、规划任务，也开始能够执行数百甚至上千个步骤的复杂工作。但当 AI 真正进入现实世界，问题也随之出现：订错机票怎么办？执行到一半忘记了原本的任务怎么办？如果 Agent 需要使用你的邮箱、银行卡和个人数据，我们又该如何确保它不会越权操作？这些问题背后，指向一个更深层的变化：当互联网的使用者从人类逐渐变成 AI Agent，我们今天熟悉的软件、通信、安全和支付系统，可能都需要重新设计。 上周末，「科技早知道」主播 Diane 在硅谷 Builder Odyssey 活动现场主持了一场圆桌论坛，与来自 AI Agent 基础设施领域的创业者和从业者，一起探讨 Agent 从技术演示走向大规模应用，还缺少哪些关键能力。我们聊到了长期任务的可靠性、人类与 Agent 的沟通、个人隐私与安全，以及在模型不断进步的背景下，下一代 AI 基础设施还有哪些创业机会。 本期人物 硅谷徐老师 Howie，硅谷高管、投资人、Gen 首席 AI 与创新官 Jiaao Chen，Nebius 首席 AI 工程师 Daniel Tian，Photon 联合创始人 丁教 Diane，「声动活泼」联合创始人、「科技早知道」主播｜小红书、视频号、抖音：声动活泼-丁教 时间轴 [00:00] AI Agent 订错机票，谁来承担损失？ 当 AI 从回答问题变成替人执行任务，犯错的代价也开始从数字世界进入现实世界。订错机票产生的退改签费用、执行任务时泄露的个人隐私，都可能带来真实的损失。 随着 Muse、Dots 等个人 AI Agent 产品出现，我们不仅需要关注 AI 能做什么，也需要思考它做错事情之后，责任应该由谁承担。 [01:56] 圆桌讨论前瞻：AI Agent 还有哪四道关要过？ 长期任务的可靠性： 模型调用工具和规划任务的能力显著进步，但当执行过程持续数天、涉及上千个步骤时，Agent 仍可能遗忘目标、犯错，需要保存状态、纠正错误和恢复任务的能力。 人与 Agent 的沟通： 当 AI 无法确定下一步操作时，应该能够通过短信或电话及时向用户确认，而不是擅自作出可能造成损失的决定。 安全与信任： 从个人数据泄露到 AI 助理频繁骚扰商家，Agent 需要新的行为监管、安全授权和透明机制，而人类对 AI 的信任也需要逐步建立。 基础设施的创业机会： 简单的工具调用和 Prompt Engineering 可能被更强大的模型取代，但执行效率、高并发处理和垂直行业模型适配，仍然值得长期投入。 [07:45] AI Agent 越来越强，为什么还不能独立工作？ 过去几个月，模型调用工具、规划任务的能力显著提升，模型与执行框架（Harness）的协同训练也推动了 Agent 的进步。 但面对需要跨平台操作、处理多模态信息的复杂任务，今天的 AI Agent 仍然存在明显的能力瓶颈。 [09:14] 什么是 Agent 的长期任务能力？ Long-horizon task 指的是需要数百甚至上千个步骤、持续数小时乃至数天才能完成的复杂任务，例如独立开展调研、运行实验并撰写技术报告。 随着执行时间拉长，Agent 可能因为上下文压缩而遗忘最初的目标，甚至产生幻觉。让 AI 在无人监督的情况下持续工作，仍是行业的重要挑战。 [11:15] 人人都有 AI 助理，还缺少什么？ 随着 OpenClaw 等产品的普及，AI Agent 开始从开发者工具走向普通用户，但用户是否愿意长期使用，仍需要找到真正有价值的应用场景。 Photon 希望让 Agent 直接通过 iMessage、WhatsApp、电话等现有通信渠道与用户互动，让持续运行的 AI 助理不必局限在一个独立的应用程序里。 [12:43] Agent 时代，互联网需要推倒重来吗？ 模型能力只是 Agent 基础设施的一部分。长期记忆、身份授权、安全合规和支付等系统，都需要适应 AI 自主执行任务的新需求。 现有互联网主要围绕人类用户设计，而 Agent 可能需要临时权限、跨系统协作和持续运行的能力，这意味着底层基础设施需要发生结构性变化。 [15:31] AI 订错机票，谁来承担损失？ 长期任务的关键不仅是 Agent 能不能完成工作，更是它能否可靠地完成，以及在出错后能否恢复。 比如用户要求订一张到上海浦东机场的机票，Agent 却订到了虹桥机场。现实中的退改签可能产生费用，而目前的软件环境并不具备完善的错误恢复机制。 在长时间执行任务的过程中，Agent 还可能遗忘安全限制，意外向外部网站泄露地址、邮箱等个人信息。 [18:12] AI 为什么还需要随时联系主人？ 当 Agent 无法确定下一步操作时，与其自行作出可能造成损失的决定，不如通过短信或电话及时向用户确认。 Human-in-the-loop（人在回路中）仍然非常重要。未来的 Agent 不仅需要能够执行任务，还需要知道什么时候寻求人类帮助，以及如何把任务交还给用户。 [21:49] 你愿意把 Gmail 和银行账户交给 AI 吗？ 圆桌嘉宾分享了自己使用个人 AI 助理的经历：即使对平台的数据隐私有所顾虑，Agent 主动提出建议、替用户完成工作的能力，依然具有吸引力。 随着个人 Agent 的使用量增加，一些商家开始收到大量 AI 助理拨打的电话。如何限制 Agent 的行为、避免对现实服务系统造成干扰，正在成为新的问题。 [25:40] 如何让 AI Agent 值得信任？ 用户不仅需要知道 Agent 最终完成了什么，还希望能够查看它的执行过程，包括访问了哪些数据、向谁披露了个人信息，以及花费了多少钱。 从在线购物的发展历史来看，用户信任的建立既需要技术上的安全保障，也需要长期的使用经验。Agent 的普及同样需要经历这个过程。 [27:37] 模型越来越强，AI Infra 还有创业机会吗？ 判断一个基础设施方向是否值得投入，一个重要标准是：它会不会随着下一代模型变强而失去价值？简单的工具调用优化和 Prompt Engineering，可能逐渐被模型自身的能力吸收。 执行效率、系统并发能力和垂直行业适配仍有发展空间。例如，企业可以结合自己的专业数据，把开源模型训练成适合特定业务的 Agent，在降低成本的同时提升效率。 [31:52] 为了一张免费披萨，你会交出多少隐私？ 一家创业公司以免费披萨吸引用户连接 Gmail 的活动。大量用户愿意用个人数据换取便利，但集中涌入的订单也暴露出系统崩溃、错误扣费和配送地址出错等问题。 这个案例揭示了 Agent 商业化的两面性：消费者可能愿意以隐私换取服务，但真正的大规模应用，还需要解决高并发、可靠性以及 Agent 与商家之间的通信问题。 幕后制作 监制：Yaxian 后期：迪卡 运营：George 设计：饭团 商业合作 声动活泼商业化小队，点击链接直达声动商务会客厅，也可发送邮件至 business@shengfm.cn 联系我们。 加入声动活泼 声动活泼正在招聘全职商务运营经理、早咖啡内容实习生和社群实习生，如果你也对播客行业的内容制作感兴趣，欢迎点击招聘入口 关于声动活泼 「用声音碰撞世界」，声动活泼致力于为人们提供源源不断的思考养料。 我们还有这些播客：声动早咖啡、声东击西、吃喝玩乐了不起、反潮流俱乐部、泡腾 VC、商业WHY酱、跳进兔子洞、不止金钱 欢迎在即刻、微博等社交媒体上与我们互动，搜索 声动活泼 即可找到我们。 期待你给我们写邮件，邮箱地址是：ting@sheng.fm 欢迎扫码添加声小音，在节目之外和我们保持联系。 Special Guests: Daniel Tian and Jiaao Chen.