O Facebook utiliza, já há anos, um programa pouco conhecido, chamado “XCheck”, que permite a celebridades, políticos e outros membros da elite estadunidense driblar algumas políticas de moderação que usuários comuns precisam respeitar. É o que revela uma reportagem publicada pelo Wall Street Journal. Ainda que a companhia tenha repetido diversas vezes que trata todo mundo de maneira igual, a presença do programa sugere que o Facebook possui um sistema hierárquico para o tratamento de usuários. Ele permitiria que pessoas ricas e poderosas joguem, basicamente, de acordo com suas próprias regras.
Também chamado de “verificação cruzada”, o programa foi aparentemente criado como um “controle de qualidade” para moderação, feito para adicionar uma camada extra de análise, que permitisse examinar incidentes envolvendo usuários importantes. No entanto, a realidade é que ele funcionava como uma maneira de evitar crises de imagem indesejáveis.
Desde a sua criação, o Facebook teve dificuldades em definir qual seria sua postura em relação à moderação. Com cerca de 2.8 bilhões de usuários, e dominado por um dilúvio permanente de conteúdos nocivos, desinformação e outros problemas, a companhia passou os últimos anos contratando pessoas e empresas para monitorar e moderar o conteúdo que aparece em sua plataforma. Banir ou punir um usuário pelo conteúdo que ele compartilha fica mais complicado quanto mais relevante ele é.
Portanto, ainda que expulsar uma celebridade ou político controverso da plataforma possa ser uma tarefa importante e arriscada, o XCheck, essencialmente, permite que a empresa protele ou renuncie ações desse tipo, evitando, assim, as polêmicas.
Esse processo, aparentemente, se transformou em um sistema que, hoje, protege “milhões de usuários VIP” do escrutínio a que os usuários normais estão submetidos, diz o Wall Street Journal. Muitos desses usuários estão na “lista de permissões”, tornando-os quase que imunes à aplicação de penas — e permitindo que postem conteúdos como informações incorretas ou “postagens [que] contenham assédio ou incitação à violência”. Coisas que fariam com que um usuário normal fosse chutado instantaneamente.
Essa lista de privilegiados incluía o ex-presidente Donald Trump (antes de sua suspensão por dois anos no início de 2021), seu filho Donald Trump Jr., o comentarista de direita Candace Owens, a senadora conservadora Elizabeth Warren, entre outros. Na maioria dos casos, as pessoas que estão na “lista de permissões” ou que receberam permissão para aplicar a moderação não sabem que isso está acontecendo.
Os funcionários do Facebook parecem estar cientes de que o XCheck é problemático há algum tempo. “Na verdade, não estamos fazendo o que dizemos que fazemos publicamente”, disseram os pesquisadores da empresa em um memorando de 2019 intitulado “A lista branca contradiz os princípios declarados do Facebook”. “Ao contrário do resto da nossa comunidade, essas pessoas podem violar nossos padrões sem quaisquer consequências.”
Quando solicitado a comentar as acusações da reportagem, o Facebook encaminhou ao Gizmodo comentários feitos recentemente pelo diretor de comunicações da empresa, Andy Stone, via Twitter. Stone apontou para comentários anteriores que o Facebook havia feito sobre seu programa, argumentando que o programa não representava um sistema paralelo, mas, sim, um projeto em desenvolvimento que, reconhecidamente, ainda precisa de ajustes.
“Como dissemos em 2018: a ‘Verificação cruzada’ significa apenas que algum conteúdo de certas páginas ou perfis recebe uma segunda camada de revisão para garantir que aplicamos nossas políticas corretamente. ”Não existem dois sistemas de justiça; é uma tentativa de nos salvaguardar contra erros.”
Stone acrescentou, ainda, que o Facebook sabia que o programa precisava ser melhorado. “Sabemos que nossa aplicação não é perfeita e precisamos compensar velocidade e precisão”, continuou Stone. “O artigo do WSJ cita repetidamente os próprios documentos do Facebook, apontando para a necessidade de mudanças que, de fato, já estão em andamento. Novos recursos e uma reformulação do processo já fazem parte de um fluxo de trabalho existente no Facebook.”