OpenAI 開發了一種檢測 AI 生成內容的工具，準確率高達 99.9%。這個工具早在 2022 年 11 月就已經提出想法，但至今仍未對外公開。
主要原因有兩方面：
- 技術方面：
- 早期成功率只有 26%，後來提高到 99.9%
- 內部擔心可能會影響 ChatGPT 寫作質量
- 存在被規避的風險，如通過翻譯等方式擦除水印
- 用戶偏好：
- 調查顯示全球僅 1/4 的人支持增加檢測工具
- 近 30% 的 ChatGPT 用戶表示如果部署水印會減少使用
- 可能對非英語母語用戶影響更大
OpenAI 內部對此存在爭議。支持者認為有利於生態發展，反對者擔心會流失用戶。目前該工具仍未發布。
除 OpenAI 外，谷歌、蘋果等公司也在開發類似工具，有些已開始內測但未正式上線。
據調查，用戶主要將 ChatGPT 用於寫作（21%）和完成家庭作業（18%），這可能是用戶反對檢測技術的原因之一。
OpenAI 計劃在今年秋季前制定方案，以影響公眾對 AI 透明度的看法。但目前尚未公布具體對策。