X quer usar IA no lugar de humanos para identificar fake news

O X (antigo Twitter) vai testar o uso de chatbots de IA (inteligência artificial) para gerar Notas da Comunidade. As notas são um recurso da rede social de Elon Musk em que usuários verificam informações dos posts e podem corrigi-las ou acrescentar contexto.

Antes de serem anexadas a uma postagem, elas são verificadas por outros usuários, a fim de impedir possíveis enganos.

• IA ja é realidade, mas ainda erra pela falta de regulamentação

O sucesso das Notas da Comunidade também levou plataformas como as da Meta, o TikTok e o YouTube a implementar iniciativas semelhantes. Sendo assim, a Meta substituiu seus programas de verificação de fatos em troca dessa opção de baixo custo.

Agora, o X pretende automatizar o processo, podendo utilizar sua própria IA, o Grok, ou outras por meio de uma API. Além disso, não se sabe como o uso dos chatbots será útil ou prejudicial, visto que as IAs são notórias por inventar dados falsos. Contudo, as informações devem continuar passando pelo processo de verificação.

De acordo com um artigo de pesquisadores do X Community Notes esta semana, recomenda-se que humanos e modelos de linguagem trabalhem juntos. Isso porque o feedback humano pode aprimorar a geração de notas por IA através do aprendizado por reforço, realizando a verificação final.

“O objetivo não é criar um assistente de IA que diga aos usuários o que pensar, mas construir um ecossistema que capacite os humanos a pensar de forma mais crítica e a compreender melhor o mundo”, disse o artigo.

No entanto, pode ser mais difícil alcançar esse objetivo com a utilização de modelos de terceiros, que podem não priorizar a precisão dos fatos. Além disso, existe uma preocupação em relação à sobrecarga dos voluntários devido à quantidade de conteúdo gerado por IA.

Mas, até então, o X ainda deve testar a novidade por algumas semanas antes de decidir lançá-las amplamente.