Skip to content
Artwork for 果壳时间
果壳时间 · Wednesday · 1 hr 1 min

人类连题目都没读完,AI已经交卷了。这比赛有意义么?

这期节目想探讨的问题是,当AI(智能体)的能力以人类难以理解的速度迅疾发展,应该怎样利用它们做科研,并和它们谐相处。 根据嘉宾习惯,这期我们都说“智能体”,不说AI。 嘉宾张天汉从今年初开始,连续参与举办了四次名叫“科学骑士大师赛”的黑客松比赛,让各种背景的人驾驭着自己的智能体来解决真实的科学问题。严格来说这系列的比赛比拼的并不是对科学的理解和人的做题能力,而是怎样当好“智能体包工头”,指挥合适的智能体完成合适的任务。 比赛的实验性质非常突出,出题者需要不停针对漏洞做封堵,因为智能体可太擅长作弊了。找到更适合的题目也不容易,需要一直观察调试难度。更模糊的是如何评估参赛选手自己在比赛中贡献几何:有的选手可能连题目都没有看,智能体就已经把题做对了。 如上种种,都让这系列比赛和传统的筛选性质的竞赛完全不同,更像一个人类和智能体间的互动实验。 总结起来,这期节目为我们展示了一种人和AI相处模式的样本,一个相对乐观的样本。身为大学教授,张天汉还提供了对当今和未来教育的思考。 有两处细节给我留下深刻印象。一是科技感和未来感如此强的比赛,倒非常看重线下的温暖交流(本周六他们就会举办一次见面会)。第二件事发生在录制之前:当我同时给主录音设备和备用设备按下录音键,张天汉老师也拿出了他的录音机开始备份——作为一个深度与智能体合作的人类,他要让自己的智能体知道今天发生了什么。 本期人物 张天汉,北京科学智能研究院研究员,北航教授 明月,果壳主编 时间轴 00:37 第一次比赛的题被秒杀,人人都是满分,怎么找更难的题? 05:12 如果把科研任务给“众包”了,署名问题怎么解决? 07:31 当好“智能体包工头”,“啊?比赛结束了?题目拿满分了?我做了什么?” 11:57 这样的比赛让参赛人获得了什么?一种shock,一种可能性 14:06 这不是家庭作业,这是统计学界尚未解决的两个问题 16:46 被老师认为最难的题,最快被秒杀,出题比做题难得多 24:04 花样作弊集锦 27:22 比赛其实是为硅基生物准备的,但在线下要让碳基生物感到温暖 30:15 有学生考试时躲到厕所让豆包写题,因为题目太多被抓住 32:29 今天到底应该怎么培养学生呢?或许可以改成考试让学生出题? 37:54 我会通过使用智能体的范围和用量,判断一个学生用得好不好 40:13 学生该有明确的问题意识,人的天性里就有这种东西 47:23 失业的恐惧是真实的,但只有往前走,才知道前边还有什么 51:30 会不会有一段时间,水认为自己是地球之主?那人会不会也是一种自然现象? 55:36 智能体很擅长提供假象,让各种benchmark失效,不过还有别的验证方法 58:36 比赛的角色是游乐园、学园和科学前线的堡垒,未来的科学家会从这样的地方成长起来 本期嘉宾:张天汉 主播:明月 后期:尔尼 欢迎收听果壳时间,这是一档果壳推出的播客节目,主播们会和嘉宾一起,提供多学科视角,还原科技的复杂性,将热议话题深挖一层。 你可以在小宇宙、苹果播客、喜马拉雅、网易云音乐、微博、QQ音乐、豆瓣、荔枝、Spotify等平台找到我们。 欢迎留下评论,你的意见对我们很重要。 在小宇宙查看该单集文稿

0:00-1:01:49

transcript

No transcript — this publisher did not publish one.

show notes

这期节目想探讨的问题是,当AI(智能体)的能力以人类难以理解的速度迅疾发展,应该怎样利用它们做科研,并和它们谐相处。

根据嘉宾习惯,这期我们都说“智能体”,不说AI。

嘉宾张天汉从今年初开始,连续参与举办了四次名叫“科学骑士大师赛”的黑客松比赛,让各种背景的人驾驭着自己的智能体来解决真实的科学问题。严格来说这系列的比赛比拼的并不是对科学的理解和人的做题能力,而是怎样当好“智能体包工头”,指挥合适的智能体完成合适的任务。

比赛的实验性质非常突出,出题者需要不停针对漏洞做封堵,因为智能体可太擅长作弊了。找到更适合的题目也不容易,需要一直观察调试难度。更模糊的是如何评估参赛选手自己在比赛中贡献几何:有的选手可能连题目都没有看,智能体就已经把题做对了。

如上种种,都让这系列比赛和传统的筛选性质的竞赛完全不同,更像一个人类和智能体间的互动实验。

总结起来,这期节目为我们展示了一种人和AI相处模式的样本,一个相对乐观的样本。身为大学教授,张天汉还提供了对当今和未来教育的思考。

有两处细节给我留下深刻印象。一是科技感和未来感如此强的比赛,倒非常看重线下的温暖交流(本周六他们就会举办一次见面会)。第二件事发生在录制之前:当我同时给主录音设备和备用设备按下录音键,张天汉老师也拿出了他的录音机开始备份——作为一个深度与智能体合作的人类,他要让自己的智能体知道今天发生了什么。

本期人物

张天汉,北京科学智能研究院研究员,北航教授

明月,果壳主编

时间轴

00:37 第一次比赛的题被秒杀,人人都是满分,怎么找更难的题?

05:12 如果把科研任务给“众包”了,署名问题怎么解决?

07:31 当好“智能体包工头”,“啊?比赛结束了?题目拿满分了?我做了什么?”

11:57 这样的比赛让参赛人获得了什么?一种shock,一种可能性

14:06 这不是家庭作业,这是统计学界尚未解决的两个问题

16:46 被老师认为最难的题,最快被秒杀,出题比做题难得多

24:04 花样作弊集锦

27:22 比赛其实是为硅基生物准备的,但在线下要让碳基生物感到温暖

30:15 有学生考试时躲到厕所让豆包写题,因为题目太多被抓住

32:29 今天到底应该怎么培养学生呢?或许可以改成考试让学生出题?

37:54 我会通过使用智能体的范围和用量,判断一个学生用得好不好

40:13 学生该有明确的问题意识,人的天性里就有这种东西

47:23 失业的恐惧是真实的,但只有往前走,才知道前边还有什么

51:30 会不会有一段时间,水认为自己是地球之主?那人会不会也是一种自然现象?

55:36 智能体很擅长提供假象,让各种benchmark失效,不过还有别的验证方法

58:36 比赛的角色是游乐园、学园和科学前线的堡垒,未来的科学家会从这样的地方成长起来

本期嘉宾:张天汉

主播:明月

后期:尔尼

欢迎收听果壳时间,这是一档果壳推出的播客节目,主播们会和嘉宾一起,提供多学科视角,还原科技的复杂性,将热议话题深挖一层。

你可以在小宇宙、苹果播客、喜马拉雅、网易云音乐、微博、QQ音乐、豆瓣、荔枝、Spotify等平台找到我们。

欢迎留下评论,你的意见对我们很重要。


在小宇宙查看该单集文稿
links2