A OpenAI, empresa responsável pela criação do ChatGPT, desenvolveu o AI Text Classifier para diferenciar o texto escrito por IA do texto escrito por humanos. Nós o chamamos de “detector ChatGPT”. Embora não seja possível identificar o texto escrito por IA com absoluta certeza, a OpenAI acredita que sua nova ferramenta reduzirá as instâncias de falsas alegações de que o conteúdo escrito por humanos é realmente gerado por IA.
Entendendo o classificador de texto AI
No uma afirmaçãoa OpenAI afirma que seu classificador de texto AI pode impedir a disseminação de informações incorretas automatizadas, impedir o uso de IA para engano acadêmico e impedir que chatbots finjam ser humanos.
A precisão da ferramenta foi testada em um conjunto de textos em inglês, onde identificou corretamente o texto escrito por IA em 26% das vezes. No entanto, também classificou erroneamente o texto escrito por humanos como gerado por IA em 9% das vezes. Segundo a OpenAI, a ferramenta funciona melhor quando o texto é mais longo, por isso requer no mínimo 1.000 caracteres para rodar um teste.
Como usar o detector ChatGPT da OpenAI?
O OpenAI AI Text Classifier é fácil de usar. Simplesmente ir para esta página, faça login, cole o texto a ser testado e clique no botão enviar. A ferramenta fornecerá uma classificação da probabilidade de o texto ter sido gerado pela IA. Os resultados podem variar entre:
- Muito improvável
- Improvável
- Não está claro se é
- Possivelmente
- Provável
Avaliamos as habilidades de redação do ChatGPT fazendo com que ele escrevesse um ensaio sobre segurança cibernética e, em seguida, submetemos o ensaio a um classificador de texto AI. O classificador avaliou o ensaio como “possivelmente gerado por IA”, o que é uma indicação forte, mas não definitiva:
Isso destaca as limitações da ferramenta, pois não é possível afirmar com total certeza que o ensaio foi escrito por IA. Fazendo pequenas alterações sugeridas pela Grammarly, reduzi a classificação de “possivelmente” para “incerto”. O OpenAI é preciso ao apontar que é simples ignorar o classificador, mas não pretende ser a única prova de que a IA escreveu o texto.
A OpenAI afirma em uma seção de perguntas frequentes na parte inferior da página:
“Nosso uso pretendido para o AI Text Classifier é promover conversas sobre a distinção entre conteúdo escrito por humanos e gerado por IA. Os resultados podem ajudar, mas não devem ser a única evidência ao decidir se um documento foi gerado com IA. O modelo é treinado em texto escrito por humanos de uma variedade de fontes, que podem não ser representativos de todos os tipos de texto escrito por humanos.”
A OpenAI menciona que a ferramenta não passou por testes extensivos para detectar texto que é uma mistura de IA e escrita humana. Embora o classificador de texto AI possa ser útil para identificar texto que pode ter sido criado por AI, ele não deve ser considerado a única base para fazer uma determinação final.
Se você está lidando com o erro ChatGPT 405 – método não permitido, confira nosso guia especial!
Source: A OpenAI lançou o AI Text Classifier para detectar textos gerados por IA