O Facebook anunciou nesta semana que está implementando uma nova ferramenta de denúncia contra pornografia de vingança, testada inicialmente na Austrália, que vai permitir aos usuários enviar fotos que não queiram que sejam compartilhadas diretamente para o Faebook. A empresa diz que sua equipe de operações de comunidade vai usar um sistema de marcação para evitar que a foto seja compartilhada em Facebook, Messenger ou Instagram. Mas antes que uma imagem seja marcada, suas fotos íntimas serão vistas por alguém do Facebook.
Um porta-voz da rede social confirmou ao Daily Beast nesta quinta-feira (9) que um funcionário precisará primeiro ver a versão não-censurada da imagem para garantir que o conteúdo publicado se encaixe na definição de pornografia de vingança. Além disso, as imagens serão borradas e armazenadas pelo Facebook, estando “disponível para um pequeno número de pessoas”, segundo o Daily Beast.
“A foto precisa ser examinada por um humano antes para garantirem que seja censurável segundo a política”, disse o pesquisador de segurança Nicholas Weaver, ao Gizmodo, por email. “De outra forma, alguém poderia publicar a famosa foto do ‘Rebelde Desconhecido‘, chamá-la de pornografia de vingança e, assim, censurá-la.” Quando perguntado sobre como uma foto dessas seria para um empregado do Facebook quando um usuário a enviasse, Weaver disse que, para determinar se uma imagem é censurável ou não, “ela precisa ser claramente visível”. Só depois disso é que ela se tornará não identificável.
Embora dar aos usuários o poder de se antecipar a abusadores ao preventivamente fazer upload de uma mídia que não queiram ver compartilhada online não seja inerentemente ruim, exigir que um estranho examine o conteúdo sem censura deixa espaço para muita melhoria. Primeiramente, o sistema do Facebook ainda exige que você confie demais em um funcionário ou contratado desconhecido da empresa. E que você não se importe de que estejam olhando fotos que, de outra maneira, você não gostaria que fossem vistas.
Essa política coloca a responsabilidade de prevenir abuso antecipadamente nos usuários, além de sinalizar que o Facebook não confia completamente em seus amados algoritmos para fazer o serviço. A empresa exaltou seu uso de aprendizado de máquina como uma forma de lidar com assédio, notícias falsas, entre outras coisas. Mas, aparentemente, a companhia ainda não tem um algoritmo suficientemente sofisticado para determinar se uma foto ou vídeo pode ser considerado pornografia de vingança.
Entramos em contato com o Facebook e, se recebermos uma resposta, atualizaremos a publicação.
Imagem do topo: Getty