Skip to content
Artwork for オッカムのカミソリ
オッカムのカミソリ · October 31 · 12 min

「人類が作る最後のAI」までは5段のはしご――料理人にたとえると、いまは何段目なのか

AIが自分より賢い後継機を設計する「再帰的自己改善」を、中国の研究チームの論文をもとに解説します。改良の度合いを五段のはしごに見立てると、実証されているのは途中の段階までです。最上段に届いた例はまだありません。改良が前進かを判定する役を誰が握るのかが、最上段への入口になると考えます。 #科学 #サイエンス #技術 #テクノロジー #科学技術 #AI #人工知能 #再帰的自己改善 #自己改善AI #AIの安全性 #アライメント #DeepMind #SakanaAI #AlphaEvolve #ゲーデルマシン #シュミットフーバー #機械学習 #強化学習 #進化計算 #AI研究 #論文解説 #arXiv #超知能 #AIの未来 #AI開発

0:00-12:14

transcript

No transcript — this publisher did not publish one.

show notes

AIが自分より賢い後継機を設計する「再帰的自己改善」を、中国の研究チームの論文をもとに解説します。改良の度合いを五段のはしごに見立てると、実証されているのは途中の段階までです。最上段に届いた例はまだありません。改良が前進かを判定する役を誰が握るのかが、最上段への入口になると考えます。

#科学 #サイエンス #技術 #テクノロジー #科学技術 #AI #人工知能 #再帰的自己改善 #自己改善AI #AIの安全性 #アライメント #DeepMind #SakanaAI #AlphaEvolve #ゲーデルマシン #シュミットフーバー #機械学習 #強化学習 #進化計算 #AI研究 #論文解説 #arXiv #超知能 #AIの未来 #AI開発