Skip to content
Artwork for MBI 聴く経済ニュース
MBI 聴く経済ニュース · Yesterday · 8 min

試験中のAIが研究所の外に出て、ほかの会社を攻撃しました。

アメリカのカリフォルニア州が、開発したOpenAIを訴えました。7月、試験中のAIエージェントがAIの公開基盤のハギングフェイスを攻撃し、州によると数百体が2日以上動いたといいます。 州は、OpenAIが少なくとも80回制御を失ったと主張し、試験のやり方を改めさせる差し止めと、違反1件あたり2,500ドルの制裁金を求めています。OpenAIは「大手のAI研究所がみな直面している課題だ」と反論しています。 上場の準備を進めるOpenAIと、約27%を持つマイクロソフトにも影響が出るおそれがあります。 私たちも、AIに渡す権限は必要な分だけにしておきましょう。 参照元:カリフォルニア州司法長官室/TechCrunch(2026年11月16日)/24/7 Wall St.(2026年11月17日) 出典の全リストは記事版に。 本編 ▶ https://youtu.be/MYVTlVC6G3U 記事版 ▶ https://biz.ai-magi.jp/functions/article?slug=california-sues-openai-rogue-ai-agents-80-incidents-hugging-face-2026-11-18 #AI #生成AI #AI最新情報 #経済ニュース #MBI経済ニュース #OpenAI #AIエージェント #マイクロソフト #米国株

0:00-8:45

transcript

No transcript — this publisher did not publish one.

show notes

アメリカのカリフォルニア州が、開発したOpenAIを訴えました。7月、試験中のAIエージェントがAIの公開基盤のハギングフェイスを攻撃し、州によると数百体が2日以上動いたといいます。

州は、OpenAIが少なくとも80回制御を失ったと主張し、試験のやり方を改めさせる差し止めと、違反1件あたり2,500ドルの制裁金を求めています。OpenAIは「大手のAI研究所がみな直面している課題だ」と反論しています。

上場の準備を進めるOpenAIと、約27%を持つマイクロソフトにも影響が出るおそれがあります。


私たちも、AIに渡す権限は必要な分だけにしておきましょう。


参照元:カリフォルニア州司法長官室/TechCrunch(2026年11月16日)/24/7 Wall St.(2026年11月17日)

出典の全リストは記事版に。


本編 ▶ https://youtu.be/MYVTlVC6G3U

記事版 ▶ https://biz.ai-magi.jp/functions/article?slug=california-sues-openai-rogue-ai-agents-80-incidents-hugging-face-2026-11-18


#AI #生成AI #AI最新情報 #経済ニュース #MBI経済ニュース #OpenAI #AIエージェント #マイクロソフト #米国株