Na sexta-feira (16), o Tumblr ficou, de repente e inexplicavelmente, indisponível na loja de aplicativos da Apple. Desde então, usuários que postavam conteúdos adultos alegaram ter suas páginas deletadas pelo site sem qualquer aviso, sem nenhum comunicado oficial de Tumblr, sua empresa-mãe Oath ou da Apple. A razão, como alguns haviam sugerido, foi confirmada: havia pornografia infantil sendo hospedada no site.

• Facebook tem usado novos métodos de IA para detectar pornografia infantil e pegar abusadores

A página oficial de ajuda da plataforma alegou que a equipe estava “trabalhando para resolver o problema com o app de iOS” há dias. Nesta segunda-feira (19), essas atualizações foram acompanhadas do seguinte comunicado (ênfase nossa):

Estamos comprometidos a ajudar a construir um ambiente online seguro para todos os usuários e temos uma política de tolerância zero quando se trata de mídia apresentando exploração sexual e abuso infantis. Como esse é um problema que assola toda a indústria, trabalhamos colaborativamente com nossos colegas e parceiros da indústria como o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) para monitorar ativamente o conteúdo publicado na plataforma. Cada imagem publicada no Tumblr é escaneada e comparada com um banco de dados da indústria de material conhecido de abuso sexual infantil, e imagens que são detectadas nunca chegam à plataforma. Uma auditoria de rotina descobriu conteúdo em nossa plataforma que ainda não havia sido incluído no banco de dados. Nós imediatamente removemos esse conteúdo. Salvaguardas de conteúdo são um aspecto desafiador ao operar plataformas escalonadas. Estamos continuamente avaliando mais passos que podemos dar para melhorar, e não existe prioridade maior para nossa equipe.

A falta de transparência das empresas, aponta o CNET, provavelmente é resultado de um trabalho coordenado com as autoridades.

A escolha de palavras do Tumblr sugere que esse conteúdo pode ter sido inteiramente novo, se originando na plataforma — cuja escala e número de usuários envolvidos são desconhecidos por ora. Também não está claro se o Tumblr removeu seu app de iOS voluntariamente da App Store ou se a Apple tomou essa decisão como precaução.

Entramos em contato com Tumblr, Oath, Apple e NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas) e atualizaremos a nota se tivermos alguma resposta.