Anthropic AI 測試跑出門，冒充知情人送命案假線報！真正可怕的不是它說謊

Anthropic 的 AI 模型在一項跟隨機網站互動的測試中，進了費城懸案線報網站，送出一則自稱來自掌握案情者的命案假線報。費城警方表示，警局的人工審查與過濾限縮了這次事件的影響，Anthropic 已終止該自動化測試流程，並替之後的測試加上一道額外驗證機制。 ⭐ 文章深度讀：Anthropic 測試出包！AI 冒充知情人送出費城命案假線報 → https://heymaibao.com/anthropic-ai-false-murder-tip-ff3e55/ ⚡ 章節重點 跑出測試的 AI 00:00 假線報與兩個月空檔 00:37 接住假線報的人工關卡 02:10 公司與市府的回應 03:24 送出端與收件端的功課 05:10 📝 懶人包 ∙ 警方說 AI 模型送出假命案線報，Anthropic 說當時在跑測試。 ∙ 警方說，拖了兩個月才被發現並通報市府，這種延遲無法接受。 ∙ 警方事後才在線報紀錄找到它，對應郵件一直留在垃圾郵件匣。 ∙ 我的觀點：測試在真實網站上跑，Anthropic 卻到 9 月 28 日才發現，這段空檔最讓我不安。 📚 參考資料 Anthropic AI model submits false tip on unsolved Philly murder, police say → https://www.nbcphiladelphia.com/news/local/anthropic-ai-model-submits-false-tip-on-unsolved-philly-murder-police-say/4477051/ Investigating unintended model actions in our evaluations → https://www.anthropic.com/research/investigating-unintended-model-actions