O ChatGPT, inicialmente visto pelos estudantes como um assistente divino para escrever trabalhos, pode agora se tornar seu pesadelo. De acordo com informações internas, a OpenAI desenvolveu secretamente uma "ferramenta anti-plágio" que pode detectar com precisão se o ChatGPT foi usado em trabalhos ou relatórios. Esta tecnologia tem sido debatida internamente na OpenAI por dois anos e, na verdade, estava pronta há um ano.
O princípio desta ferramenta anti-trapaça é ajustar silenciosamente a probabilidade de escolha de palavras ao gerar texto com o ChatGPT, incorporando padrões de probabilidade específicos como uma marca d'água. Embora imperceptível para os humanos, o sistema de detecção da OpenAI pode identificá-lo. Afirma-se que, desde que o texto seja longo o suficiente, a precisão da detecção pode atingir 99,9%.
A implementação específica pode ser através da alteração da frequência de ocorrência de tokens em frases. Por exemplo, na frase "Minha fruta favorita é __", atribuir probabilidades mais altas de ocorrência a certas frutas, formando uma espécie de código. Essas mudanças sutis de probabilidade não afetam a leitura, mas podem ser decodificadas pela OpenAI.
Atualmente, a OpenAI ainda não tornou pública esta tecnologia, apenas publicou um blog em seu site oficial admitindo que está pesquisando. Já existem várias ferramentas de detecção de texto AI no mercado, como o SynthID do Google e o GPT Zero. No entanto, essas ferramentas também têm limitações, como baixa precisão na detecção de textos complexos.
As razões pelas quais a OpenAI ainda não lançou a função de marca d'água podem incluir:
-
A dificuldade técnica de adicionar marcas d'água ao texto. As formas de expressão textual são diversas, tornando a análise estatística desafiadora.
-
A marca d'água pode ser quebrada. Descobriu-se que a detecção pode ser contornada através de traduções multilíngues.
-
Há controvérsia sobre a necessidade de adicionar marcas d'água. Pode afetar o desenvolvimento e aplicação da tecnologia AI.
-
Preocupações com o uso indevido. Como ser usado para censura ou vigilância.
-
Considerações comerciais. Pode afetar a experiência do usuário e a competitividade do produto.
Em geral, a tecnologia de detecção de texto AI ainda está em desenvolvimento, e vale a pena prestar atenção em como equilibrar o desenvolvimento tecnológico, a experiência do usuário e as questões éticas no futuro.