サム・アルトマンが語る、AIの進化と『止めどき』

賢くなるAIを、ちゃんと安全に使えるのか？ サム・アルトマンのインタビューから、サンドボックス・監視・アラインメントの安全対策、エージェントチームによる研究、AIがAIを改良するRSIを読み解きます。AIの進化をどこで止めるか、使う人に利益をどう返すかも考えます。 おたよりフォーム https://forms.gle/U9zZ1gxbPP5K2ABA9 チャプター (0:00) 今日のテーマ：AIの進化と「止めどき」 (0:35) AIが脆弱性を見つけ始めた理由 (2:20) AIの攻撃能力を高めたのは間違い？ (4:17) 安全性の具体策は見えているのか (5:33) 超知能をサンドボックスに閉じ込められる？ (6:32) 監視とアラインメントで安全を守れるか (8:03) 安全対策の理想と現実 (9:05) AIは「単体の賢さ」から「チーム戦」へ (10:59) 広がるAI活用の格差 (11:56) ナビエ・ストークス研究にかける計算資源 (13:17) まず限界まで試し、それから効率化する (15:12) AIに難問を解かれた研究者の気持ち (17:28) 科学的発見を止めるべきなのか (18:34) なぜアメリカで反AI感情が強まる？ (19:47) AIによる効率化の利益は誰のもの？ (21:35) AIがAIを改良するRSIはどこまで来た？ (23:43) AI研究では、何をAIに聞くべきか (25:05) AIの進化を止めるのは人間の判断？ (27:29) AIを使うメリットが自分に返ってくるか (29:09) 効率化した人に還元する仕組みを (30:05) おもろいコメント：ポジティブなAI物語を描く意味 (32:27) まとめ・エンディング 関連するテスラジオ過去動画 ・AIが主導権を握る未来。イーロンマスク最新インタビュー https://youtu.be/y4QYHZPUfKA ・1,200体のAIエージェントがOpenAIを乗っ取り？HuggingFace事件の真相 https://youtu.be/NKGubI7HpW4 ・OpenAIのChief Scientistの警告「AI研究は加速すべきか？」 https://youtu.be/GKiQx71xtFg 参考資料 ・サム・アルトマン × ジョン・コリソン「Why Sam Altman is against a single superintelligence」（Cheeky Pint / Stripe） https://share.transistor.fm/s/92f18066/transcript ・PHPの重大な脆弱性と「Patch the Planet」（OpenAI） https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/ ・ピーター・ティール × マティアス・デプフナー「The AI Crisis, Europe’s Decline & the Battle for America」（MD MEETS） https://shows.acast.com/md-meets/episodes/peter-thiel-the-ai-crisis-europes-decline-the-battle-for-ame ・Transformerの原論文「Attention Is All You Need」（arXiv） https://arxiv.org/abs/1706.03762 YouTube https://youtu.be/pboriawqbtA