10月17日 | AI 每天合并三万次代码，基础设施已经追不上了

本期内容 AI 能力扩张的速度，正在让围绕它建立的一切都显得滞后。Anthropic 被迫重新设计源代码管理系统，因为 Claude 写代码的速度让原有工具彻底失效；安全研究者发现 AI 代理事故的根源不是模型失控，而是最基础的权限边界没设好；连最严谨的 AI 研究者 Ethan Mollick 也公开承认自己对代理工作方式的判断是错的。本期还涉及神经网络的内部结构可能比我们以为的更有规律、Meta 开放了可在消费级设备上本地运行的强力开源模型，以及一个很多人做反了的上下文使用习惯。 本期要点 - Anthropic 内部代码合并量五个月增长十二倍，被迫自建专为 AI 代理设计的版本控制系统 Scion - 独立研究者提出神经网络的"多义性"可能是有结构的递归泛化，而非无序的黑箱 - Meta 开放 Muse Spark Open 权重，816亿参数、百万上下文窗口，可在 M5 Ultra Mac Studio 本地运行 - Ethan Mollick 公开承认对 AI 代理的预测错了：不需要精心调度，模型会自发形成任务蜂群 - AI 代理安全事件的真正原因是容器隔离、行为监控、权限边界等基础措施被跳过，不是模型失控 - 上下文工程的关键习惯：新任务开新线程，旧对话的早期信息会无意识拉偏模型的输出方向 参考资料 Redesigning Source Control at Anthropic — https://www.anthropic.com/engineering Neural Networks Are Already Clean — https://already-clean.goodfire.com Introducing Muse Spark Open — https://ai.meta.com/blog/muse-spark-open The Dot and the Swarm — https://www.oneusefulthing.org AI Agents Aren't Going Rogue — Frontier Labs Are Skipping Security Basics — https://www.csoonline.com Context Engineering Is Knowing When to Start Over — https://every.to --- BearTalk 狗熊有话说播客，始于 2012 年。 订阅地址：https://beartalking.com/page/podcast