ハッキングから兵器開発まで！？Anthropicが観測したAI悪用最前線

ハッキングから恋愛詐欺、兵器開発まで、AIはどう悪用されているのか？AnthropicのレポートからClaudeの実際の利用事例を読み解きます。さらに、薬にも毒にもつながる生物研究の「Dual Use」を通じて、ガードレールの限界と、誰にAIを使わせるかという難しい問題を考えます。 おたよりフォーム https://forms.gle/U9zZ1gxbPP5K2ABA9 チャプター (0:00) 今日のテーマ：Anthropicが観測したAI悪用 (1:10) ノリで攻撃する「バイブハッキング」 (3:09) データを盗んで恐喝する攻撃グループ (5:07) SaaS連携が広げる被害 (6:34) GLMと攻撃用AIエージェント (8:16) ハッカーの仕事もAIに置き換わる (9:16) マッチングアプリの相手がAIだったら？ (10:52) 人間も混ぜ込む偽恋愛サービス (12:36) 普通の会話から詐欺を見抜けるか？ (13:26) Claudeが兵器エンジニアに (14:40) イエメンの兵器開発チームの事例 (16:28) 実地テストの失敗もAIと分析 (17:24) 生物研究と悪用を分けられるか？ (18:29) チクングニアの機能獲得研究 (19:40) 鳥インフル・オルソポックスの研究 (21:10) 毒を薬に変える研究の裏側 (22:23) 毒素研究と、曖昧な報告書 (23:42) 善にも悪にも使える「Dual Use」 (24:41) ガードレールだけで見抜けるのか？ (26:06) 質問の内容から「誰が使うか」へ (27:08) 利用の透明性とアクセス制限 (28:10) ダリオの警告と、今読む意味 (29:10) おもろいコメント：J:COMをやめてStarlink？ (31:03) 光回線にする？大家さんへの相談 (32:29) 大家さんのネット環境も改善できる？ (33:57) まとめ・エンディング 関連するテスラジオ過去動画 ・Anthropicは、何のためにAIをやってるのか https://youtu.be/CPgCQNEuaT0 ・Anthropicが本気で恐れている2つのこと https://youtu.be/aZmr8DQ31Ys ・2027年が転換点？！イーロンが語るSpaceXが来年実現する4つのこと https://youtu.be/lRf12RAKHFU 参考資料 ・Detecting and countering misuse of AI: September 2026（Anthropic） https://www.anthropic.com/threat-intelligence-report-september-2026 ・GLM-5.3 and the spread of advanced cyber capabilities（Anthropic） https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities 画像資料・クレジット Anthropic / Nous Research / DARPA / CDC PHIL / Shantanu Kuveskar / Starlink・SpaceX ・チクングニアウイルス：CDC / Cynthia Goldsmith, James A. Comer, Barbara Johnson（Public Domain） https://wwwn.cdc.gov/phil/Details.aspx?pid=17550 ・鳥インフルエンザA(H5N1)：CDC / Cynthia Goldsmith, Jacqueline Katz, Sherif R. Zaki（Public Domain） https://wwwn.cdc.gov/phil/Details.aspx?pid=1841 ・mpoxウイルス：CDC / Cynthia S. Goldsmith, Russell Regnery, Hannah Bullock（Public Domain） https://wwwn.cdc.gov/phil/Details.aspx?pid=25793 ・ノコギリクサリヘビ：Shantanu Kuveskar, “Saw-scaled Viper (Echis carinatus) Photographed By Shantanu Kuveskar”（CC BY-SA 4.0／写真の原画像は改変なし） https://commons.wikimedia.org/wiki/File:Saw-scaled_Viper_(Echis_carinatus)_Photographed_By_Shantanu_Kuveskar.jpg https://creativecommons.org/licenses/by-sa/4.0/ 一部の再現・たとえ・想像イラストにAI生成画像を使用しています。 YouTube https://youtu.be/QGrSHM1EdRQ