Facebook admite que seus moderadores não estão conseguindo definir discurso de ódio

Em uma nova reportagem da Pro Publica, o Facebook se desculpou pelo policiamento inconsistente de discurso de ódio em sua plataforma. Os repórteres da Pro Publica enviaram 49 amostras de posts de usuários que acreditavam que os moderadores haviam tomado a decisão errada, seja por remover uma expressão legítima de opinião ou por permitir que um discurso de ódio permanecesse online. Em 22 desses casos, o Facebook admitiu que seus revisores de conteúdo tomaram a decisão errada. Reconhecendo os erros, o vice-presidente da empresa, Justin Osofsky, prometeu dobrar o tamanho de sua equipe de revisão de conteúdo para 20 mil em 2018.

Quando uma dezena de pessoas sinalizou o grupo de Facebook “Jewish Ritual Murder” (“Assassinato Ritual Judaico”), o site alegou que não havia violação de seus padrões de comunidade. De modo parecido, quando um outro usuário sinalizou um meme com “muçulmano bom é muçulmano morto” escrito sobre o corpo de um homem que havia levado um tiro na cabeça, recebeu a seguinte mensagem automática: “Vimos a foto e, embora não vá contra um de nossos padrões de comunidade específicos, entendemos que ainda assim pode ser ofensivo para você e para outros”.

O Facebook mais tarde reverteu ambas as decisões, depois de a Pro Publica enviá-las à empresa, como parte de sua reportagem.

“Sentimos muito pelos erros que cometemos — eles não refletem a comunidade que queremos ajudar a construir”, Osofsky disse à Pro Publica, em um comunicado. “Precisamos melhorar. Nossas políticas permitem conteúdos que podem ser controversos e, às vezes, até mesmo de mal gosto, mas elas não cruzam a linha de discurso de ódio. Isso pode incluir críticas a figuras públicas, religiões, profissões e ideologias políticas.”

Uma reportagem perturbadora do Wall Street Journal na quarta-feira (27), perfilando os moderadores de conteúdo, descobriu que funcionários no Vale do Silício têm apenas alguns minutos para revisar itens sinalizados. Esse tempo pode não ser suficiente para que os moderadores desenvolvam uma lógica clara e consistente para discurso de ódio ou para claramente distinguir uma crítica a uma religião (o que é permitido) de um ataque (que não é permitido).

O Facebook, assim como Twitter e YouTube, entre outros, precisa confrontar dois problemas graves. O primeiro é a escala. Com dois bilhões de usuários, a quantidade de conteúdo sinalizado para se revisar é imensa. No momento, não existe um jeito sustentável de o site escalar seus esforços de moderação com o tanto de conteúdo que os usuários produzem. O Vale do Silício está se voltando para algoritmos em busca de ajuda, mas nada indica que as máquinas serão uma solução rápida.

Em segundo lugar, o Facebook há muito tempo valoriza a neutralidade de conteúdo, basicamente dizendo que as plataformas deveriam deixar as coisas correrem em questão de policiamento de conteúdo, a não ser que seja absolutamente necessário intervir. Isso leva a regras obscuras e vagas sobre discurso de ódio, porque são projetadas para desencadear o mínimo possível de intervenção direta da plataforma. E como é que a intervenção mínima funciona numa escala dessas? Não funciona, e o Facebook sabe disso. O debate de Charlottesville sobre a responsabilidade das plataformas foi a primeira vez que pararam para falar sobre as regras mal definidas sobre discurso de ódio, e reportagens como a da Pro Publica indicam que há muito mais por vir.

[Pro Publica]

Imagem do topo: AP