A OpenAI desenvolveu uma ferramenta que pode identificar alunos que usam o ChatGPT para concluir suas tarefas, mas eles não têm certeza se devem lançá-la. Jornal de Wall Street relatou que a empresa está experimentando um método chamado marca d’água de texto. Essa técnica envolve fazer pequenas mudanças em como o ChatGPT seleciona palavras, criando uma “marca d’água” oculta no texto que pode ser detectada mais tarde.
Um porta-voz da OpenAI disse TechCrunch que a empresa está sendo cuidadosa ao lançar esta ferramenta devido às suas complexidades e impacto potencial. Eles estão preocupados com problemas como pessoas encontrando maneiras de contornar a marca d’água e a possibilidade de afetar injustamente pessoas que não falam inglês.
É “altamente preciso”
Essa abordagem é diferente de tentativas anteriores de detectar texto gerado por IA, que falharam principalmente. Por exemplo, o GPTZero, outra ferramenta projetada para detectar texto escrito por IA, enfrentou desafios em precisão e eficácia. Até mesmo a OpenAI parou de usar seu próprio detector de texto de IA no ano passado porque ele não era preciso o suficiente. A nova ferramenta de marca d’água se concentraria apenas em capturar texto escrito pelo ChatGPT, não por outros modelos de IA.
Em uma atualização postagem de blogA OpenAI observou que a marca d’água de texto tem sido “altamente precisa” contra adulterações simples, como alterar algumas palavras. No entanto, é menos eficaz contra métodos mais complexos, como traduzir o texto para outro idioma ou usar outro modelo de IA para reformulá-lo. A empresa também mencionou preocupações de que essa ferramenta poderia estigmatizar injustamente o uso da IA, especialmente para falantes não nativos de inglês que podem usar a IA para obter ajuda na escrita.
À medida que a OpenAI considera esses fatores, eles estão levando tempo para decidir se devem ou não lançar essa ferramenta, pesando cuidadosamente os prós e os contras.
Todas as imagens são geradas por Eray Eliaçık/Bing
Source: A OpenAI sabe como identificar o trabalho do ChatGPT, mas hesita em compartilhá-lo
