ChatGPT最初被學生視為寫論文的神助手，但現在可能成為他們的噩夢。據內部消息，OpenAI已秘密研發出一種「反抄襲神器」，可精準檢測論文或報告中是否使用了ChatGPT。這項技術在OpenAI內部已經爭論兩年，實際上一年前就已準備就緒。
這個反作弊工具的原理是在ChatGPT生成文本時，悄悄調整詞語選擇概率，埋下特定的概率模式作為水印。雖然人類無法察覺，但OpenAI的檢測系統可識別。據稱只要文本足夠長，檢測準確率可達99.9%。
具體實現可能是通過改變句子中詞元出現的頻率。例如在「我最喜歡的水果是__」這句話中，給某些水果搭配更高的出現概率，形成一種暗號。這種微妙的概率改變不會影響閱讀，但可被OpenAI解碼。
目前OpenAI尚未公開這項技術，僅在官網發布博客承認正在研究。市面上已有各種AI文本檢測工具，如谷歌的SynthID和GPT Zero等。但這些工具也存在局限性，如對複雜文本的檢測準確度不高。
OpenAI遲遲不發布水印功能的原因可能有：
-
給文字打水印技術難度大。文字表達方式多樣，統計分析難度高。
-
水印可能被破解。有人發現通過多語言翻譯可繞過檢測。
-
是否有必要打水印存在爭議。可能影響AI技術發展和應用。
-
擔心被濫用。如被用於審查或監控。
-
商業考量。可能影響用戶體驗和產品競爭力。
總的來說，AI文本檢測技術仍在發展中，未來如何平衡技術發展、用戶體驗和倫理問題值得關注。