Algoritmo do Facebook vai ser mais rigoroso com discurso de ódio contra grupos minorizados

Documentos revelados pelo Washington Post indicam que o Facebook está mudando seu algoritmo para detectar e banir mais discursos de ódio direcionados a populações minorizadas, como negros, judeus, muçulmanos e LGBTQ+s.

O projeto, batizado de WoW, foca em banir o “pior do pior” (que é, aliás, o significado da sigla WoW, “worst of the worst”). Ele ainda está em estágios iniciais e, por enquanto, só foca em comentários em inglês.

Embora o Facebook sempre tenha banido conteúdo de ódio, nunca fez distinção entre populações que tendem a ser mais atacadas. Agora, a rede social dará uma nota para cada comentário e levará em conta a opressão que cada grupo sofre. Por isso, frases como “gays são nojentos” serão consideradas mais ofensivas do que “homens são porcos”, de acordo com o Washington Post.

A rede social ainda tratará publicações contra qualquer grupo como discurso de ódio. Porém, o algoritmo considerará que ataques a homens brancos, por exemplo, têm menos chances de serem prejudiciais e, portanto, não serão deletados automaticamente.

• YouTube finalmente inclui alertas para usuários não postarem comentários agressivos
• É melhor não se acostumar com as medidas contra desinformação do Facebook

O movimento é uma resposta a anos de reivindicações de movimentos civis, que alegam que o Facebook não leva em conta o contexto histórico e social em que vivemos — tratando populações minorizadas da mesma forma que grupos com privilégios sociais. Muitas vezes, ao escrever sobre o preconceito que vivem, as pessoas criticam grupos de poder, como os homens, brancos e héteros. Sem levar o contexto em conta, o Facebook considerava tal conteúdo como discurso de ódio e o deletava.

Por conta da demora ou da negligência em remover tais discursos de ódio, o Facebook tem sido criticado por ativistas e por empresas. Em julho, mais de 900 anunciantes promoveram boicote à empresa por conta das medidas ineficazes da plataforma em relação ao discurso de ódio.

“Nós sabemos que o discurso de ódio direcionado a grupos sub-representados pode ser mais prejudicial — e é por isso que focamos nossa tecnologia em encontrar o discurso de ódio que nossos especialistas consideram mais sério”, disse Sally Aldous, porta-voz do Facebook em nota à imprensa.

“No último ano, nós também atualizamos nossas políticas para detectar mais discurso de ódio implícito, como conteúdos mostrando Blackface, estereótipos sobre judeus controlando o mundo, e banimos a negação do Holocausto. Graças a investimentos significativos em nossas tecnologias, detectamos de forma proativa 95% do conteúdo que removemos e vamos continuar a melhorar a maneira como aplicamos nossas regras na medida em que o discurso de ódio evolui no decorrer do tempo”, disse Aldous.