OpenAI cria ferramenta separa textos criados por humanos e pelo ChatGPT

Nos testes, algoritmo identificou 26% dos textos escritos pelo ChatGPT; nível de acerto em textos humanos foi menor, de 9%
OpenAI cria ferramenta que separa textos criados por humanos e pelo ChatGPT
Imagem: Focal Foto/Flickr/Reprodução

Depois que o ChatGPT virou motivo de debate sobre plágio em escolas e universidades, a OpenAI, desenvolvedora da plataforma, criou uma ferramenta para distinguir textos escritos por humanos e IA (inteligência artificial). 

whatsapp invite banner

A organização, que já contou com financiamento de Elon Musk, Google e Microsoft, lançou a versão beta do novo recurso na terça-feira (31). “Estamos lançando para coletar feedback e esperamos compartilhar métodos aprimorados no futuro”, tuitou a OpenAI. 

Em post no site, a organização diz que treinou um modelo de linguagem para atuar como classificador do que é humano e do que é robô a partir de milhares de textos escritos por pessoas e IA sobre um mesmo assunto. 

Nos primeiros testes, os pesquisadores fizeram a máquina identificar entre real e virtual a partir de textos em inglês. Ao final, o classificador conseguiu acertar 26% dos materiais escritos por IA. Foi mais difícil acertar quando os textos vinham de humanos. O algoritmo só acertou 9% dos casos. 

Por isso, a OpenAI afirma que o classificador ainda não é totalmente confiável, apesar de acertar mais que os modelos testados anteriormente. “Não deve ser usado como uma ferramenta primária de tomada de decisão, mas sim como um complemento a outros métodos de determinação da fonte de um texto”, diz a companhia. 

Limitações 

A desenvolvedora também diz que o índice de acertos é maior quando textos são mais longos. Em materiais com menos de 1.000 caracteres, o nível de confiabilidade cai drasticamente. 

A OpenAI também recomenda só usar o classificador em textos em inglês. “Tem um desempenho significativamente pior em outros idiomas, e o código não é confiável”, disse. 

Além disso, de nada adianta pedir que o algoritmo identifique uma lista com números ou o alfabeto, por exemplo. Isso porque é impossível prever se uma lista dos primeiros 1.000 números primos foi escrita por IA ou por humanos, por exemplo, uma vez que a resposta correta é sempre a mesma.

“Nosso trabalho na detecção de texto gerado por IA continuará e esperamos compartilhar métodos aprimorados no futuro”, pontuou o comunicado. É possível acessar o classificador que avalia textos humanos e de robôs do ChatGPT neste link

Julia Possa

Julia Possa

Jornalista e mestre em Linguística. Antes trabalhei no Poder360, A Referência e em jornais e emissoras de TV no interior do RS. Curiosa, gosto de falar sobre o lado político das coisas - em especial da tecnologia e cultura. Me acompanhe no Twitter: @juliamzps

fique por dentro
das novidades giz Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas