O TikTok afirmou na última sexta-feira (9) ter consertado seu algoritmo de inteligência artificial (IA) para, em breve, permitir o uso de palavras e expressões relacionadas ao movimento “Black Lives Matter” na biografia do aplicativo. As mudanças chegam após inúmeros criadores de conteúdo — a maioria deles sendo negros — afirmarem que não conseguiam atualizar suas biografias porque a rede social classificava palavras como “black” como “conteúdo impróprio”.

O caso começou a ganhar projeção graças ao comediante Ziggi Tyler. O jovem de 23 anos, que é negro, percebeu o problema pela primeira vez quando tentou atualizar sua página de biografia no Creator Marketplace, um recurso beta que a plataforma estreou no ano passado para conectar criadores populares com patrocinadores de marca.

Tyler postou vários clipes em sua conta mostrando que, toda vez que ele tentava ajustar sua biografia para incluir frases como “Black Lives Matter”, “Pro-Black” ou “Black success”, o TikTok exibia uma mensagem de que a biografia continha “conteúdo inapropriado”. Por este motivo, a seção não podia ser atualizada.

Para comprovar que o algoritmo do TikTok estava sendo racista, Tyler, no mesmo vídeo em que contou toda a situação, substituiu a palavra “preto” por “branco” (“white”) em cada uma dessas frases. E adivinha? Em nenhum momento o aplicativo sinalizou que a biografia era imprópria. Para piorar, nem ao inserir expressões de apoio à supremacia branca o app exibia um alerta.

O criador Ziggi Tyler criticou o fato de não poder usar palavras de apoio ao movimento negro em sua biografia do TikTok. Imagem: Reprodução

Em entrevista recente à Forbes, Tyler disse que, como um criador negro, ele esperava destacar sua origem racial no Creator Marketplace, na esperança de que os anunciantes que buscam se concentrar na justiça racial em suas campanhas, ou mesmo diversificar seus anúncios em geral, encontrariam em Tyler uma voz de destaque para a comunidade.

O que diz o TikTok

O TikTok não negou o problema. Em comunicado enviado ao Gizmodo US, a companhia afirma que isso poderia ser atribuído a algumas questões técnicas que ainda estão em desenvolvimento interno na empresa. Embora o TikTok tenha prometido ter corrigido os problemas de inteligência artificial que causaram a sinalização dessas frases, o aplicativo também colocou uma suspensão temporária que impede qualquer criador de alterar sua biografia.

“Nossas proteções do TikTok Creator Marketplace, que sinalizam frases normalmente associadas a incitações ao ódio, foram erroneamente configuradas para sinalizar frases sem respeitar a ordem das palavras. Reconhecemos e pedimos desculpas por como isso foi frustrante, e nossa equipe corrigiu esse erro significativo. Para ser claro, ‘Black Lives Matter’ não viola nossas políticas”, disse um porta-voz do TikTok ao Gizmodo.

De acordo com o TikTok, seus algoritmos sinalizaram a biografia de Tyler porque ele também incluiu a palavra “público” ao lado de frases como “Pessoas negras são importantes”. Especificamente, o TikTok explicou que suas ferramentas de IA foram ensinadas a sinalizar biografias que incluíam a palavra “morrer”, que está inserida no meio da palavra “público”. Logo, o algoritmo interligou de maneira errada as palavras “morrer” e “pessoas negras” na biografia de Tyler.

Em português, nada disso faz sentido, uma vez que tudo está em inglês. “Morrer” no idioma é “die”, e “público” (ou “audiência”) se traduz para “audience”. Daí veio a interpretação equivocada do algoritmo do TikTok. O mesmo acontece em combinação de palavras como “ingredients” (“ingredientes”), “blackberry pies” (“tortas de amora”) e “medieval” (“medieval”). Tudo isso acabava sendo classificado com conteúdo inadequado pela IA do TikTok.

Assine a newsletter do Gizmodo

Criadores protestam por melhores condições

Muitos usuários com milhões de seguidores na plataforma entraram em greve indefinida até que a companhia tome uma providência definitiva seja implementada. Porém, esta não é a primeira vez que o TikTok parece suprimir criadores negros na rede social. Recentemente, muitos deles acusaram o serviço de não sinalizar usuários brancos ao se apropriarem de movimentos da comunidade negra — muitas vezes sem oferecer crédito aos verdadeiros criadores.

Além disso, durante os protestos do Balck Lives Matter no ano passado, diversos criadores negros alegaram que o TikTok diminuiu propositalmente o alcance de postagens sobre a morte de George Floyd. Tempo depois, a empresa atribuiu o ocorrido a uma “falha técnica”.