Meta é alertada para chatbot “com defeito”: rude e mentiroso

A Meta – big tech que controla Facebook, WhatsApp e Instagram – criou um novo chatbot para conversar com o público: o BlenderBot 3 (BB3). Só tem um problema: o robô é excessivamente rude e bastante mentiroso. 

Segundo a plataforma ParlAI, o bot pode conversar sobre praticamente qualquer assunto com base em pesquisas na internet. Ele foi projetado para aprender a melhorar suas habilidades e segurança através de conversas e feedbacks espontâneos dos usuários. 

• Microsoft quer criar chatbot até de quem já morreu
• Chatbot do Google responde perguntas sobre filosofia e problemas de VPN

Em seu blog, a Meta reconheceu que o BB3 pode, sim, ferir nossos singelos corações humanos. Além da toxidade, há relatos de que o bot “esqueceu” que era um robô e criou “alucinações” – a forma que a Meta descreveu casos em que o robô proferiu mentiras com toda confiança do mundo.

“Os usuários não devem confiar nesse bot para obter informações factuais, incluindo aconselhamento médico, jurídico ou financeiro”, alertou a big tech. Mas, segundo a companhia, é isso que o fará melhorar a experiência conosco. 

“Embora seja doloroso ver algumas dessas respostas ofensivas, demonstrações públicas como essa são importantes para construir sistemas de Inteligência Artificial interativas verdadeiramente confiáveis”, disse a dona do Facebook. 

A Meta afirmou que já coletou 70 mil conversas da demonstração pública do BB3 e vai melhorar seu bot sem educação. Segundo a big tech, as respostas ofensivas do robô caíram até 90%. Por enquanto, sua demonstração só está disponível nos EUA, mas deve chegar a outros países, como o Brasil, em breve. 

O que quer a Meta com o BlenderBot 3

A empresa de Mark Zuckerberg pesquisa há anos formas de melhorar o desempenho de seus chatbots online. Agora, vai disponibilizar o BB3 para ser usado na pesquisa de indústrias, universidades, organizações governamentais e da sociedade civil. 

Isso é importante porque o chatbot “aprende” com a experiência: ele passa por correção quando algum usuário notifica algo ofensivo ou declarações falsas e contraditórias.

A expectativa é alta sobre o BB3 porque o robô foi construído a partir do modelo de linguagem OPT-175B – ou seja, método com 175 bilhões de parâmetros treinados com dados disponíveis publicamente. 

Até então, esses modelos – que não passam de sistemas de processamento de linguagem natural – tinham pouco mais de 100 bilhões de parâmetros. Esse aumento deve fazer com que bots se comuniquem de modo mais criativo, sejam capazes de solucionar problemas básicos de matemática e a interpretar textos, por exemplo. 

Na comparação com o Google, o LaMDA – bot mais recente da companhia – é um modelo de 137 bilhões de parâmetros de linguagem. Foram quase 2 meses de desenvolvimento, com mais de 1.024 chips Tensor, da própria companhia. Ele ainda não está disponível para o público. 

A Meta espera superar em muito o chatbot de inteligência artificial da Microsoft, Tay.AI. O robô precisou sair do ar depois de entrar no Twitter em 2016. O motivo: testes com humanos ensinaram o bot a propagar discurso de ódio e racista.