Você se lembra de quando usuários identificaram que a Inteligência Artificial (IA) do Twitter privilegiava pessoas brancas nas imagens cortadas? O caso tomou conta das publicações na rede social no ano passado e a plataforma teve que se posicionar. Ao público, Rumman Chowdhury,  a diretora de engenharia de software da empresa, reconheceu o erro quando compartilhou os resultados de um experimento interno que avaliou o funcionamento do algoritmo. 

A repercussão foi tamanha que agora o Twitter está oferecendo uma recompensa em dinheiro para quem identificar bugs na plataforma, mais especificamente nos algoritmos racistas. A ideia, segundo a empresa, é identificar “potenciais danos desse algoritmo” além dos já identificados pela equipe.  

Rumman Chowdhury, disse em um tuíte que a empresa está realizando o concurso “porque acreditamos que as pessoas devem ser recompensadas por identificar esses problemas e não podemos resolver esses desafios sozinhos”

O Twitter afirma que esta é a “primeira competição de recompensas com tendência algorítmica da indústria” e está oferecendo prêmios em dinheiro de 500 a 3.500 dólares. 

Ainda de acordo com a empresa, os vencedores serão anunciados em um workshop hospedado no Twitter, no dia 8 de agosto na DEF CON AI Village, em Los Angeles, uma das maiores convenções hacker do mundo. 

Algoritmo racista

Na época, os usuários do Twitter publicaram vários exemplos de postagens com o rosto de uma pessoa negra e de uma branca para provar que a prévia do Twitter mostrava rostos brancos com mais frequência. As pessoas também descobriram que o algoritmo de visualização da rede social escolhia mais personagens de desenhos animados que não eram negros.

Quer um exemplo claro de como isso ainda está acontecendo? Veja a publicação da Disney+ com os personagens de Falcão e o Soldado Invernal – Claramente privilegiando pessoas brancas: 

O Twitter explicou que testaram “esse viés antes de enviar o modelo e não encontraram evidências de preconceito racial ou de gênero em nossos testes”, contudo, admite que tem muitas análises para fazer. 

Apesar desses esforços, o racismo cometido por algoritmos não acontece apenas no Twitter. Recentemente um estudo realizado pela Universidade de Chicago mostrou que o racismo algorítmico das operadoras de saúde tendem a excluir pacientes negros e pobres, classificando suas doenças como ‘mais leves’. 

Assine a newsletter do Gizmodo

Cada vez mais fica claro que a Inteligência Artificial veio para somar e dar praticidade às coisas mais simples do nosso dia a dia. Apesar disso, é preciso ter cautela na hora de implementar esses algoritmos para não contribuir – ainda mais – com o racismo na sociedade. 

[Reuters]