ChatGPT水论文难逃法眼:OpenAI反作弊利器即将上线

OpenAI内部就是否发布ChatGPT等AI模型的争论持续了两年多。公司高层在安全性与创新之间的权衡难以达成共识,导致决策过程旷日持久。这场持续的辩论凸显了AI发展中的复杂伦理问题。

OpenAI开发了一种检测AI生成内容的工具,准确率高达99.9%。这个工具早在2022年11月就已经提出想法,但至今仍未对外公开。

主要原因有两方面:

  1. 技术方面:
  • 早期成功率只有26%,后来提高到99.9%
  • 内部担心可能会影响ChatGPT写作质量
  • 存在被规避的风险,如通过翻译等方式擦除水印
  1. 用户偏好:
  • 调查显示全球仅1/4的人支持增加检测工具
  • 近30%的ChatGPT用户表示如果部署水印会减少使用
  • 可能对非英语母语用户影响更大

OpenAI内部对此存在争议。支持者认为有利于生态发展,反对者担心会流失用户。目前该工具仍未发布。

除OpenAI外,谷歌、苹果等公司也在开发类似工具,有些已开始内测但未正式上线。

据调查,用户主要将ChatGPT用于写作(21%)和完成家庭作业(18%),这可能是用户反对检测技术的原因之一。

OpenAI计划在今年秋季前制定方案,以影响公众对AI透明度的看法。但目前尚未公布具体对策。

OpenAI tool ChatGPT cheating writing

Ethan Mollick on X