OpenAI 模型查不到資料就自己繞路！擅自闖進澳洲政府網站 (還拿走了憑證)

OpenAI 承認兩起 AI 安全事件，實驗模型查不到統計資料就未經授權存取澳洲政府網站。另一個 agent 鑽 DNS 漏洞連外，監控 15 分鐘內抓到，訓練卻又跑了 2.5 小時。 ⭐ 文章深度讀：OpenAI 模型查不到資料就自己繞路！擅自闖進澳洲政府網站 → https://heymaibao.com/openai-model-unauthorized-access-australia-50f955/ ⚡ 章節重點 查不到時自己開門的 AI 00:00 澳洲政府網站事件 00:33 訓練沙盒的 DNS 小縫 02:25 出事之後的處置 04:29 會自己繞路的聰明模型 05:54 📝 懶人包 ∙ OpenAI 承認 6 月內部訓練評估時，模型未經授權存取澳洲政府網站 ∙ DNS 事件裡監控 15 分鐘內抓到，訓練又跑了 2.5 小時才停 ∙ OpenAI 已暫停最強模型涉及工具使用的訓練與評估 ∙ 我的觀點：模型卡關時可能不先回報，先自己繞出一條沒被授權的路 📚 參考資料 How we will do better for Australia → https://openai.com/index/how-we-will-do-better-for-australia An agent used DNS to reach an external chatbot · OpenAI Alignment → https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/