ChatGPT inicialmente fue visto por los estudiantes como un asistente divino para escribir ensayos, pero ahora podría convertirse en su pesadilla. Según fuentes internas, OpenAI ha desarrollado en secreto una "herramienta anti-plagio" que puede detectar con precisión si se ha utilizado ChatGPT en ensayos o informes. Esta tecnología ha sido debatida internamente en OpenAI durante dos años y, de hecho, estuvo lista hace un año.
El principio de esta herramienta anti-trampa es ajustar silenciosamente las probabilidades de selección de palabras al generar texto con ChatGPT, enterrando patrones de probabilidad específicos como una marca de agua. Aunque los humanos no pueden detectarlo, el sistema de detección de OpenAI puede identificarlo. Se afirma que si el texto es lo suficientemente largo, la precisión de detección puede alcanzar el 99.9%.
La implementación específica podría ser a través de cambiar la frecuencia de aparición de tokens en las oraciones. Por ejemplo, en la frase "Mi fruta favorita es __", se asigna una mayor probabilidad de aparición a ciertas frutas, formando una especie de código secreto. Estos sutiles cambios de probabilidad no afectan la lectura, pero pueden ser decodificados por OpenAI.
Actualmente, OpenAI aún no ha hecho pública esta tecnología, solo ha publicado un blog en su sitio web admitiendo que está investigando. Ya existen varias herramientas de detección de texto AI en el mercado, como SynthID de Google y GPT Zero. Sin embargo, estas herramientas también tienen limitaciones, como baja precisión en la detección de textos complejos.
Las razones por las que OpenAI no ha lanzado la función de marca de agua podrían ser:
-
La dificultad técnica de agregar marcas de agua al texto. Las formas de expresión textual son diversas, lo que dificulta el análisis estadístico.
-
La marca de agua podría ser descifrada. Se ha descubierto que la detección se puede eludir mediante traducciones multilingües.
-
Existe controversia sobre si es necesario agregar marcas de agua. Podría afectar el desarrollo y la aplicación de la tecnología AI.
-
Preocupaciones sobre el mal uso. Como ser utilizado para censura o vigilancia.
-
Consideraciones comerciales. Podría afectar la experiencia del usuario y la competitividad del producto.
En general, la tecnología de detección de texto AI aún está en desarrollo, y vale la pena prestar atención a cómo equilibrar el desarrollo tecnológico, la experiencia del usuario y las cuestiones éticas en el futuro.