Qual é o efeito de banir termos “perigosos” em redes sociais como o Instagram?

Em 2012, o Instagram começou a moderar certos termos usados por grupos pró-anorexia. Pesquisadores do Instituto de Tecnologia da Geórgia (EUA) decidiram estudar se a proibição das palavras ajudou de alguma forma as comunidades de usuários com transtornos alimentares. Em vez disso, eles descobriram que isso só fez as coisas piorarem.

Assim como outras redes sociais, o Instagram se revelou um bom lar para diversas comunidades de pessoas com gostos parecidos. Grupos de pessoas com distúrbios alimentares, por exemplo, formaram comunidades para promover anorexia, bulimia e outros tipos de transtornos como um estilo de vida.

Esses usuários trocavam dicas sobre dietas, fotos de corpo que deixavam outra pessoa envergonhada – fazendo-a continuar com a dieta – além de imagens inspiradoras de celebridades extremamente magras.

Então o Instagram começou a moderar agressivamente termos como “thighgap” (espaço entre as coxas), “imugly” (sou feio/a) e “thinspiration” (inspiração para ser magro/a). A busca por esses termos não dava resultado nenhum, e quando os posts continham essas palavras, os usuários precisavam passar por uma tela avisando que eles veriam conteúdo questionável, e às vezes recebiam links para sites que ajudam no combate ao transtorno.

O estudo

Pesquisadores do Instituto de Tecnologia da Geórgia usaram um programa para analisar 2,5 milhões de posts feitos no Instagram entre 2011 e 2014, buscando por essas palavras proibidas. Eles apresentaram os resultados durante a ACM Conference on Computer-Supported Cooperative Work and Social Computing.

Eles descobriram que banir os termos exatos fez muito pouco para ajudar as comunidades que os usavam. Em vez disso, isso deu lugar a variações na grafia como “thyghgapp” e “thinspoooooo”. O Instagram baniu, inicialmente, 17 termos. Pouco tempo demais, havia 250 itens proibidos especificamente usados por comunidades pró-transtornos alimentares. As grafias alternativas também começaram a aparecer no Tumblr e em outras redes sociais.

Banir os termos deu início a uma atitude “nós contra eles” nas comunidades, ou fez com que elas aumentassem o comprometimento com a causa?

A pós-graduanda Stevie Chancellor, uma das coautoras do estudo, explicou ao Gizmodo que está relutante em tentar adivinhar a psicologia das pessoas nessas comunidades. “É um problema de correlação ou casualidade”, explica. Mas após os banimentos, as comunidades passavam a falar sobre, e também marcar, comportamentos mais extremos.

“Nossas observações mostram que as pessoas que usaram os novos termos também usaram alguns como ‘isolamento’, ‘solidão’ ou ‘automutilação'”, disse ela. O que causou a mudança não está claro. Stevie acredita que pode ser “não ter a influência externa de alguém dizendo ‘fale comigo se precisar,’ em vez de ‘ei, bom trabalho, continue assim.'”

“Não estamos falando de causalidade”, explica Munmun De Choudhury, professora adjunta do Georgia Tech. No entanto, ela acrescenta que o aumento nos termos mencionando automutilação e isolamento “de fato surgem após o banimento”.

O que fazer?

Em vez de banir termos, Munmun e Stevie acreditam que redes sociais deveriam mudar o sistema de recomendação para mostrar aos usuários “conteúdo que seja muito diferente do que eles estão procurando.” Uma busca por “thinspo” não deveria mostrar apenas resultados de imagens de inspiração para magreza, e sim comunidades de pessoas em recuperação de transtornos de alimentação, posts de aceitação do próprio corpo, posts de serviços sociais, e outras postagens que permitam aos buscadores observarem outros pontos de vista e grupos que podem ajudá-los a recuperar a saúde.

Essas ideias também podem ser usadas para grupos de ódio, por exemplo? Eles certamente são mais criativos para se desviar de termos banidos. “É da natureza humana encontrar um caminho diferente,” disse Munmun. No entanto, o contexto psicológico e social dos grupos de ódio é muito diferente do das pessoas com problemas de saúde mental ou transtornos alimentares, então nesses casos, “pode fazer sentido banir as coisas.”

Stevie concorda que “as pessoas vão desviar” de restrições em termos de busca em praticamente qualquer circunstância. No entanto, ela acredita que pode ser possível uma abordagem semelhante um pouco modificada que funcione em outros grupos: modificar termos de busca para que eles mostrem resultados que dão às pessoas uma perspectiva diferente, ou uma base mais ampla de conhecimento.

O estudo está disponível neste link.