Edward Tian, ​​um aluno do último ano da Universidade de Princeton, de 22 anos, criou o aplicativo GPTZero durante as férias de inverno. O aplicativo foi projetado para avaliar se um texto foi gerado pelo popular chatbot ChatGPT. De acordo com Tian, ​​o aplicativo GPTZero pode determinar de forma rápida e eficiente se um texto foi escrito por um humano ou pelo ChatGPT, e foi criado devido a preocupações sobre o uso antiético do ChatGPT na academia.

Edward Tian, ​​formado em ciência da computação com especialização em jornalismo, desenvolveu o aplicativo GPTZero para abordar o que ele vê como um aumento no plágio de IA. Ele acredita que as pessoas merecem saber se o autor de um texto é uma IA ou um humano, e esse desejo o levou a criar o aplicativo. Em um tweet promovendo o aplicativo GPTZero, ele escreveu: “Há muito hype em torno do ChatGPT. Isso e aquilo está sendo escrito pela IA? Nós humanos merecemos saber!”

Após a introdução do ChatGPT em novembro, houve relatos de alunos usando o modelo de linguagem para enviar tarefas geradas por IA como se fossem suas. Com o desenvolvimento do aplicativo GPTZero da Tian, ​​os professores passaram a contar com uma nova ferramenta para identificar se as redações enviadas pelos alunos são escritas pelo ChatGPT. Em 2 de janeiro, quando Tian disponibilizou o aplicativo, outros professores o procuraram para compartilhar feedback positivo sobre seu desempenho na detecção de redações escritas por IA.

Aplicativo GPTZero: como detectar a escrita do ChatGPT?

O aplicativo GPTZero usa “perplexidade” e “explosão” como indicadores para determinar se um texto foi escrito por um humano ou um bot. A perplexidade é uma medida da complexidade do texto, se o aplicativo GPTZero achar que o texto é difícil de entender, significa que o texto é mais complexo e, portanto, é provável que tenha sido escrito por um humano. Se for fácil de entender, é mais provável que tenha sido gerado por IA, pois foi treinado em textos semelhantes. “Burstiness” contrasta as diferentes versões de frases e os humanos tendem a escrever mais rapidamente, o que pode incluir uma mistura de palavras mais longas e mais curtas, enquanto as frases geradas por IA são tipicamente mais consistentes.

Detecção de IA: o aplicativo GPTZero pode detectar a gravação do ChatGPT?
O aplicativo GPTZero não é perfeito e ainda está trabalhando para melhorar sua precisão

Tian demonstrou como o aplicativo pode distinguir entre textos escritos por humanos e IA, mostrando sua análise de um artigo da New Yorker e uma postagem do ChatGPT no LinkedIn em um vídeo. O aplicativo se mostrou eficaz em sua análise. Uma semana após seu lançamento, o aplicativo GPTZero foi usado por mais de 30.000 usuários e sua popularidade causou o travamento do aplicativo. Streamlit, o software de código aberto que executa o aplicativo GPTZero, desde então forneceu mais recursos para lidar com o alto tráfego no site para ajudar Tian.

Edward Tian não é o único lutando contra o plágio e a fabricação de IA. A OpenAI, criadora do ChatGPT, também demonstrou seu compromisso em impedir o uso malicioso de IA. Segundo Scott Aaronson, pesquisador da OpenAI especializado em segurança de IA, a organização vem desenvolvendo uma forma de incorporar “sinal secreto imperceptível” no texto gerado pela GPT para rastrear sua origem, algo semelhante ao conceito de “marca d’água”. Isso ajudará na detecção de plágio de IA ou outros usos maliciosos.

A comunidade de IA de código aberto Hugging Face lançou uma ferramenta que pode determinar se um texto foi gerado pelo GPT-2, uma versão mais antiga do modelo de IA usado para criar o ChatGPT. Um professor de filosofia na Carolina do Sul, que conhecia essa técnica, relatou que a usou para detectar um aluno enviando um trabalho criado por IA.

Detecção de IA: o aplicativo GPTZero pode detectar a gravação do ChatGPT?
O aplicativo GPTZero não visa impedir o uso dessas tecnologias, mas fornecer uma maneira de adotá-las com responsabilidade e ter a proteção necessária

Edward Tian não é contra o uso do ChatGPT e outras tecnologias de IA. Ele acredita que o aplicativo GPTZero não se destina a impedir o uso dessas tecnologias, mas a fornecer uma maneira de adotá-las com responsabilidade e ter a proteção necessária. Ele quer trazer transparência para a IA, que tem sido uma caixa preta por muito tempo. Ele criou o aplicativo para dar às pessoas uma visão sobre o que diferencia a escrita humana da escrita gerada por IA, embora entenda que o aplicativo GPTZero não é perfeito e ainda está trabalhando para melhorar sua precisão. Ele enfatizou que seu principal objetivo é tornar a IA mais transparente.

Embora existam projetos legítimos contra o plágio, alguns grandes players, como a Microsoft, estão integrando o ChatGPT em seu software!

Source: Detecção de IA: o aplicativo GPTZero pode detectar a gravação do ChatGPT?