Gente esquisita e golpes abundam no Facebook Messenger. Para combatê-los, o Facebook agora está se voltando para a inteligência artificial. Um novo recurso de segurança para o Messenger ajudará as pessoas, principalmente crianças, a identificar gente mal-intencionada e notificá-los sobre contas suspeitas — tudo sem ler as próprias mensagens.

O recurso, lançado para Android em março e que chegará ao iOS na próxima semana, funciona monitorando o comportamento de um potencial fraudador. Em um blog post, um exemplo que o Facebook forneceu é um cenário em que um adulto envia muitas mensagens e solicitações de amizade a usuários menores de 18 anos. Também pode notificar um usuário se uma conta estiver se passando por um amigo usando sua foto ao iniciar uma conversa.



Além dos sinais comportamentais, o Facebook diz que também pode usar relatórios e conteúdos relatados para ajudar a treinar a inteligência artificial. E, como a ferramenta baseia suas notificações de segurança no comportamento, e não no conteúdo da mensagem, seria compatível com a criptografia de ponta a ponta, sempre que finalmente chegar ao Messenger (o Facebook fala isso há um tempo, mas no início deste ano disse que pode levar anos até que o Messenger seja criptografado por padrão).

As notificações de segurança não bloqueiam automaticamente contas falsas ou fraudulentas — o Facebook está deixando isso para o usuário. São mais como pop-ups embutidos que aparecem quando alguém pode entrar em uma interação prejudicial. As notificações também oferecem dicas sobre como reconhecer golpes e um lembrete para recusar solicitação para enviar dinheiro para estranhos. A nova ferramenta também lembrará a menores de 18 anos que sejam cautelosos em conversar com adultos que eles realmente não conhecem.

O novo recurso de inteligência artificial é um tipo de “barreira adicional” para o app Messenger kids. Este aplicativo foi criado para manter as crianças seguras, limitando com que elas pudessem conversar apenas com usuários autorizados. Mas, surpreendendo ninguém, um bug permitia que menores conversem com estranhos por meio de bate-papos em grupo — ou a coisa exata para a qual o aplicativo foi projetado para impedir.

Moderação e privacidade nunca foram os pontos fortes do Facebook. Dito isto, a empresa está enfrentando um escrutínio cada vez maior à medida que os golpistas tentam usar sua plataforma para capitalizar a pandemia global.

O Better Business Bureau (entidade de proteção a consumidores da América do Norte) emitiu recentemente um aviso de que os golpistas estão se passando por amigos e conhecidos do Messenger para oferecer curas milagrosas ou se passando por instituições de caridade falsas. É um problema do qual o Facebook está ciente e, desde então, lançou uma campanha contra desinformação relacionada ao COVID-19 em todas suas plataformas.

Embora o Facebook não esteja vinculando diretamente essa nova ferramenta de segurança ao aumento de golpes sobre o novo coronavírus, com certeza os novos recursos ajudarão a rede neste sentido.