诺奖得主Hinton携手Bengio等：人工智能研发自动化与智能爆发政策研究 软件驱动的智能爆炸

随着人工智能系统在软件研发中扮演越来越核心的角色，专家们正密切关注智能爆发的可能性，即AI的自主研发可能引发一场自我完善的递归反馈循环，使多年的技术进步压缩至数月甚至更短。如果这一爆发成真，它不仅能加速有益技术的诞生，还将带来巨大风险，包括AI能力增长超出人类控制、监督机制失效以及国家与企业间的权力制衡遭到严重侵蚀。尽管目前在计算资源、数据供应和某些难自动化任务上仍存在摩擦与不确定性，但初步证据表明软件驱动的加速并非不可能。面对如此高风险的转折点，论文作者呼吁政策制定者采取紧急行动，重点实现提高AI研发自动化可见性、建立约束与引导机制以及提前为智能爆发带来的社会冲击做好适应准备。