Anthropicが本気で恐れている2つのこと

「Anthropicはオープンウェイトに反対している」——その見方に、Dario Amodeiが公式ブログで答えました。一律禁止を主張したことは一度もなく、むしろオープンウェイトは「公共財」だと評価したうえで、それでも譲れない懸念が2つあると言います。特に怖い生物分野の話と、先端チップ・蒸留の取り締まり・公開前の安全性検査という3つの対策まで整理していきます。 おたよりフォーム https://forms.gle/U9zZ1gxbPP5K2ABA9 チャプター (0:00) 問題は「オープンかクローズドか」ではなかった (0:30) 中国製オープンウェイトの急成長と、あの書簡の背景 (1:34) 「競合潰しでは」批判に反論。むしろ「公共財」と評価 (3:21) 懸念①権威主義国家がアメリカを超えるAIを持つ日 (4:34) 懸念②サイバー・生物攻撃。公開した重みは回収できない (5:51) 対策①中国に先端チップを渡すな（うまくいってない） (7:26) 対策②「産業規模の蒸留」を取り締まる (8:35) アカウントBANの限界と、Sam Altmanの反応 (9:54) 対策③高性能モデルは公開前に安全性検査を義務化 (10:58) 対象は最先端モデルだけ。大学や小規模モデルは除外 (12:40) 脱線：ブロックチェーンで見た「オープン＝無責任」問題 (13:50) 「オープンの方が安全対策を作りやすい」への反論 (14:57) 生物分野だけ攻撃と防御が非対称になる理由 (16:34) 生物テロが限定的だったのは「能力がなかっただけ」 (18:26) 結論：不可逆だから、無条件の公開に慎重になる (19:30) 考察：AIも「やらかしたら捕まえる」になるのか？ (20:44) おもろいコメント：GPUが倉庫で腐っている説 (22:29) まとめ・エンディング YouTube https://youtu.be/aZmr8DQ31Ys