Skip to content
Sign in
Artwork for 脈報
脈報 · Wednesday · 5 min

沒偵測到 AI 浮水印就是人寫的？OpenAI 自己說不是！檢測結果能證明的很少

OpenAI 將在歐盟境內符合條件的 ChatGPT 與 Codex 文字輸出加上 textGrain 文字浮水印，偵測結果只能回答文字是否很可能由 OpenAI 模型生成。沒偵測到不代表是人寫的，偵測到也不代表作弊或內容有誤。 ⭐ 文章深度讀：OpenAI 文字浮水印能證明什麼？沒偵測到不代表是人寫的 → https://heymaibao.com/what-openai-text-watermark-can-prove-e9c27a/ ⚡ 章節重點 被浮水印檢查的處境 00:00 挑字時藏進的隱形訊號 00:36 偵測結果的兩道界線 01:32 漏抓與誤報的實際數字 02:40 只開給研究者的偵測器 03:53 面對檢測結果的應對 04:20 📝 懶人包 ∙ OpenAI 的 textGrain 在模型挑字時加進看不見的統計訊號 ∙ 沒偵測到浮水印，不代表這段文字是人寫的 ∙ 在 400 token 段落的評測裡，換掉 25% 的字，偵測率掉到 17% ∙ 我的觀點：浮水印最多回答一個問題，拿它判斷別人前先記住這條界線 📚 參考資料 Our approach to EU text provenance rules → https://openai.com/index/eu-text-provenance Content provenance | OpenAI API → https://developers.openai.com/api/docs/guides/content-provenance We're expanding our approach to content provenance to include text in response to EU regulatory requirements → https://x.com/OpenAI/status/2107164650249101695

0:00-5:24
Play in

transcript

No transcript — this publisher did not publish one.

show notes


OpenAI 將在歐盟境內符合條件的 ChatGPT 與 Codex 文字輸出加上 textGrain 文字浮水印，偵測結果只能回答文字是否很可能由 OpenAI 模型生成。沒偵測到不代表是人寫的，偵測到也不代表作弊或內容有誤。

⭐ 文章深度讀：OpenAI 文字浮水印能證明什麼？沒偵測到不代表是人寫的
→ https://heymaibao.com/what-openai-text-watermark-can-prove-e9c27a/

⚡ 章節重點
被浮水印檢查的處境 00:00
挑字時藏進的隱形訊號 00:36
偵測結果的兩道界線 01:32
漏抓與誤報的實際數字 02:40
只開給研究者的偵測器 03:53
面對檢測結果的應對 04:20

📝 懶人包
∙ OpenAI 的 textGrain 在模型挑字時加進看不見的統計訊號

∙ 沒偵測到浮水印，不代表這段文字是人寫的

∙ 在 400 token 段落的評測裡，換掉 25% 的字，偵測率掉到 17%

∙ 我的觀點：浮水印最多回答一個問題，拿它判斷別人前先記住這條界線

📚 參考資料
Our approach to EU text provenance rules
→ https://openai.com/index/eu-text-provenance

Content provenance | OpenAI API
→ https://developers.openai.com/api/docs/guides/content-provenance

We're expanding our approach to content provenance to include text in response to EU regulatory requirements
→ https://x.com/OpenAI/status/2107164650249101695

links4

more episodes

All episodes