OpenAI开发了一种检测AI生成内容的工具,准确率高达99.9%。这个工具早在2022年11月就已经提出想法,但至今仍未对外公开。
主要原因有两方面:
- 技术方面:
- 早期成功率只有26%,后来提高到99.9%
- 内部担心可能会影响ChatGPT写作质量
- 存在被规避的风险,如通过翻译等方式擦除水印
- 用户偏好:
- 调查显示全球仅1/4的人支持增加检测工具
- 近30%的ChatGPT用户表示如果部署水印会减少使用
- 可能对非英语母语用户影响更大
OpenAI内部对此存在争议。支持者认为有利于生态发展,反对者担心会流失用户。目前该工具仍未发布。
除OpenAI外,谷歌、苹果等公司也在开发类似工具,有些已开始内测但未正式上线。
据调查,用户主要将ChatGPT用于写作(21%)和完成家庭作业(18%),这可能是用户反对检测技术的原因之一。
OpenAI计划在今年秋季前制定方案,以影响公众对AI透明度的看法。但目前尚未公布具体对策。