transcript
show notes
BBC科学记者帕拉布·戈什报道了一场围绕人工智能和科学研究的争论。
【AI的“生物学课本”】
在伦敦一家旧手表工厂里，一排白色冷冻柜嗡嗡作响。里面放着几十个贴有条形码玻璃管的小盒子，总共装着一千亿个基因。Basecamp Research公司联合创始人奥利弗·文斯博士说，其中两个盒子里的信息量，可能比互联网上所有文字还多10倍。这家公司计划尽量收集DNA，训练一个能“说生物学语言”的AI，就像一些科技公司用网上文字训练大语言模型一样。文斯相信，AI能大大加快科学研究。
【一场数学争议】
最近，OpenAI宣布，它的AI智能体只用了88小时，就解决了一个与纳维-斯托克斯方程有关的著名数学难题。这个方程描述流体怎样运动，是数学里长期没有解决的问题之一。负责相关奖项的机构说，这个问题“看起来已经被解决”，但审查还需要时间。
可是，就在宣布前几个小时，纽约大学的数学家特里斯坦·巴克马斯特公开表达担心。他和另一位数学家莱文特·阿尔珀格组成独立团队，也在研究同一个目标，并把草稿放在OpenAI的编程工具Codex里。阿尔珀格白天在OpenAI的竞争对手Anthropic工作。巴克马斯特说，有人提醒他，他们研究有进展的消息“传到了”OpenAI；他因此问：自己存在Codex里的研究，会不会影响过OpenAI的工作？不过他也强调，自己“不是在指控任何人”。如果你看到“AI用88小时解决数学难题”这样的标题，你会先相信，还是先问：证据在哪里？
OpenAI回应说，在对方研究发表前，公司里没有任何人、也没有任何AI看过另一个团队的工作。它一开始说，虽然可能性不大，但不能“排除”用户使用产品时产生的匿名数据可能帮助改进模型；几天后又说，巴克马斯特在宣布前两个月使用Codex的提示词“不可能以任何方式影响系统”。目前，这件事的完整经过还没有被完全弄清楚。
【AI也会“编故事”】
问题不只在一次争议。文章指出，AI在科学研究中越来越常见，可能带来一个更隐蔽的麻烦：它可能削弱人们对科学过程的信任。人们常担心机器人制造可怕的病毒或化学武器，但这里说的是另一个问题——研究是不是原创、结果是不是准确，可能变得更难判断。
AI聊天机器人有时会“幻觉”，也就是一本正经地说出根本不存在的事，比如不存在的电影，或者从没发生过的引用。现在有证据显示，这种情况也在科学领域增多。如果真假研究混在一起，人们会更难分辨真正的科学发现和AI编出来的内容。
科学期刊是科学诚信的“守门人”。科学记者达尔米特·辛格·查拉说，生成式AI“基本上打乱了整个科学过程”。他认为，科学出版商负责检查论文准确性和可靠性的工作人员，如果要应付这场冲击，人数和投入都必须“大幅增加”；但“现在看起来，他们还没有做到”。当AI能帮科学家读海量数据时，我们怎样防止它把编出来的内容混进真实研究？
【AI也有厉害的时候】
AI并非只会带来麻烦。科学家要处理海量信息，望远镜和粒子加速器会产生数十亿个数据点，人脑很难全部消化，AI可以帮忙找出重要线索。
英国公司Google DeepMind常被当作科学AI的成功例子。2020年，它解决了一个生物学大问题：蛋白质怎样折叠成精确形状。蛋白质是让生命运转的“小机器”，形状决定它们能做什么。以前，科学家要在实验室做耗时很长的实验；DeepMind的AlphaFold模型在一年内准确预测了2亿个蛋白质折叠。文章说，同样的实验工作如果在实验室完成，可能要数亿年。公司把结果免费提供给研究人员，DeepMind负责人德米斯·哈萨比斯和项目首席科学家后来获得诺贝尔化学奖。DeepMind科学工作负责人普什米特·科利博士称，这可以看作一个“分水岭时刻”。
【成果越多，检查越重要】
不过，AI的其他科学成果也受到质疑。文章说，DeepMind后来用AI预测新材料结构，声称找到超过200万个新的晶体结构，并把这称为一次性发布“近800年的知识”。其中约38万个结构被认为有希望在实验室制造，可能帮助开发更好的电池、更便宜的太阳能电池和电子元件。但随后，两位化学家发出警告，说明AI给出的科学结果并不等于自动被证实。如果你未来用AI帮忙做研究，你会怎样记录过程，让别人能检查你的工作？
这场争论还没有完全结束，但它提醒人们：AI可以加速科学，也可能让科学更难被信任。科学不只需要答案，还需要能被检查的证据、公开的过程和人与人之间的信任。
