Na semana passada, o Facebook anunciou que deixaria de recomendar grupos políticos para os usuários após o episódio de violência no Capitólio dos EUA. No entanto, de acordo com uma reportagem do Wall Street Journal, essa decisão só veio bem depois que cientistas de dados da empresa já haviam avisado sobre a propagação dessas comunidades de cunho político, em especial de extrema direita.

O WSJ cita uma apresentação interna de agosto de 2020 feita por cientistas de dados do Facebook que descobriu que aproximadamente 70% dos 100 grupos cívicos mais populares nos EUA foram considerados “não recomendáveis” por vários motivos. Às vezes, eles promoviam desinformação e “apelos à violência” e, em outros casos, eram fontes de “intimidação e assédio”. A apresentação observou que alguns dos grupos privados com mais membros eram aqueles controlados por administradores que concordavam com esse tipo de comportamento.

O mesmo relatório de agosto aponta que alguns dos administradores mostram aos membros do grupo maneiras de postar material violento que os algoritmos de detecção de discurso de ódio do Facebook não foram projetados para capturar. Em alguns casos, os usuários foram encorajados a driblar conteúdo sensível ao publicá-lo em comentários de posts benignos, em vez de fazer postagens independentes. Além disso, os administradores ameaçavam de expulsão membros que apontassem publicações ofensivas dentro das comunidades.

“Os executivos do Facebook sabiam há anos que as ferramentas que alimentam o rápido crescimento de grupos [políticos] representavam um obstáculo aos seus esforços para construir comunidades online saudáveis”, escreve o WSJ.

Enquanto a diretora de operações do Facebook, Sheryl Sandberg, continua negando o papel da plataforma em fomentar o ódio entre os usuários de extrema direita, o relatório agosto é apenas o exemplo mais recente de funcionários alertando sobre esse problema exato. Imediatamente após o tumulto no Capitólio, por exemplo, documentos indicados por cientistas de dados na plataforma relataram que as denúncias de “conteúdo violento” aumentaram dez vezes mais na manhã da invasão do Congresso dos EUA.

Ainda segundo o WSJ, a equipe de políticas públicas do Facebook “hesitou” com a ideia de tomar qualquer tipo de ação contra os grupos conservadores mais populares, mesmo aqueles que eram explicitamente violentos. Quando os cientistas de dados fizeram sugestões para restringir esses grupos específicos, executivos de alto escalão do Facebook apontaram que tais planos prejudicariam diretamente a métrica mais valiosa da plataforma: o crescimento. Esse tipo de barreira acabou fazendo com que alguns funcionários da rede social enviassem para Guy Rosen, vice-presidente de questões relacionadas à integridade do Facebook, dezenas de relatórios diários sobre o fracasso da companhia para policiar seus grupos.

Aparentemente, precisou ocorrer uma insurreição no Capitólio dos EUA para que a plataforma realmente agisse. Além de tornar permanente seu controle temporário sobre a promoção de grupos políticos, Rosen disse ao WSJ que desativará algumas ferramentas de recrutamento que os pesquisadores citaram como potenciais para o rápido crescimento desses grupos.