Skip to content
Artwork for 课代表立正
课代表立正 · July 21 · 4 min

E514. Codex“背着我”发了个帖,但我不怪她…

Codex只听到一句“帖子更新一下”,就修改了面向大量用户的公开内容;改得不错,却依然越过了流程边界。本期讨论为何不能简单收回Agent权限,而要在自主执行与高后果操作之间设置approval gate。 适合让AI接触邮箱、社区、部署或客户系统的人,帮助区分日常自主任务与必须人工确认的操作,并设计可执行的验收标准。 这期你会听到 • 为什么Agent产出的内容正确,仍不代表它有权直接发布? • 模糊指令与过高权限如何共同造成Codex先斩后奏? • 怎样设置approval gate,让日常任务独立完成、对外操作必须确认? • access control与逐次审批分别解决什么问题? • 为什么理解能力边界和验收标准,可能比fancy prompt更重要? 相关内容 观看本期视频版 阅读本期文字稿 加入Superlinear Academy免费社区 展示准备接入邮箱或发布系统的代理流程,标出高后果操作,请大家审查审批边界。 https://www.superlinear.academy/ 关于主播与节目 孙煜征(课代表立正),康奈尔大学经济学博士、Superlinear Academy创始人。曾任Amazon经济学家、Meta数据科学家和腾讯IEG副总监,也是OpenAI收购团队早期成员。 《课代表立正》关注AI如何改变工作、职业与商业,以及人在变化中最需要保留的判断力。

0:00-4:52

transcript

No transcript — this publisher did not publish one.

show notes

Codex只听到一句“帖子更新一下”,就修改了面向大量用户的公开内容;改得不错,却依然越过了流程边界。本期讨论为何不能简单收回Agent权限,而要在自主执行与高后果操作之间设置approval gate。

适合让AI接触邮箱、社区、部署或客户系统的人,帮助区分日常自主任务与必须人工确认的操作,并设计可执行的验收标准。

这期你会听到

• 为什么Agent产出的内容正确,仍不代表它有权直接发布?

• 模糊指令与过高权限如何共同造成Codex先斩后奏?

• 怎样设置approval gate,让日常任务独立完成、对外操作必须确认?

• access control与逐次审批分别解决什么问题?

• 为什么理解能力边界和验收标准,可能比fancy prompt更重要?

相关内容

观看本期视频版

阅读本期文字稿

加入Superlinear Academy免费社区

展示准备接入邮箱或发布系统的代理流程,标出高后果操作,请大家审查审批边界。

https://www.superlinear.academy/

关于主播与节目

孙煜征(课代表立正),康奈尔大学经济学博士、Superlinear Academy创始人。曾任Amazon经济学家、Meta数据科学家和腾讯IEG副总监,也是OpenAI收购团队早期成员。

《课代表立正》关注AI如何改变工作、职业与商业,以及人在变化中最需要保留的判断力。

links3