Twitter oferece recompensas de até US$ 3,5 mil para quem identificar bugs racistas em seu algoritmo

Twitter admite que tem vieses racistas em seu algoritmo, mas que não consegue resolver sozinho

Você se lembra de quando usuários identificaram que a Inteligência Artificial (IA) do Twitter privilegiava pessoas brancas nas imagens cortadas? O caso tomou conta das publicações na rede social no ano passado e a plataforma teve que se posicionar. Ao público, Rumman Chowdhury,  a diretora de engenharia de software da empresa, reconheceu o erro quando compartilhou os resultados de um experimento interno que avaliou o funcionamento do algoritmo. 

A repercussão foi tamanha que agora o Twitter está oferecendo uma recompensa em dinheiro para quem identificar bugs na plataforma, mais especificamente nos algoritmos racistas. A ideia, segundo a empresa, é identificar “potenciais danos desse algoritmo” além dos já identificados pela equipe.  

Rumman Chowdhury, disse em um tuíte que a empresa está realizando o concurso “porque acreditamos que as pessoas devem ser recompensadas por identificar esses problemas e não podemos resolver esses desafios sozinhos”

O Twitter afirma que esta é a “primeira competição de recompensas com tendência algorítmica da indústria” e está oferecendo prêmios em dinheiro de 500 a 3.500 dólares. 

Ainda de acordo com a empresa, os vencedores serão anunciados em um workshop hospedado no Twitter, no dia 8 de agosto na DEF CON AI Village, em Los Angeles, uma das maiores convenções hacker do mundo. 

Algoritmo racista

Na época, os usuários do Twitter publicaram vários exemplos de postagens com o rosto de uma pessoa negra e de uma branca para provar que a prévia do Twitter mostrava rostos brancos com mais frequência. As pessoas também descobriram que o algoritmo de visualização da rede social escolhia mais personagens de desenhos animados que não eram negros.

Quer um exemplo claro de como isso ainda está acontecendo? Veja a publicação da Disney+ com os personagens de Falcão e o Soldado Invernal – Claramente privilegiando pessoas brancas: 

O Twitter explicou que testaram “esse viés antes de enviar o modelo e não encontraram evidências de preconceito racial ou de gênero em nossos testes”, contudo, admite que tem muitas análises para fazer. 

Apesar desses esforços, o racismo cometido por algoritmos não acontece apenas no Twitter. Recentemente um estudo realizado pela Universidade de Chicago mostrou que o racismo algorítmico das operadoras de saúde tendem a excluir pacientes negros e pobres, classificando suas doenças como ‘mais leves’. 

Assine a newsletter do Giz Brasil

Cada vez mais fica claro que a Inteligência Artificial veio para somar e dar praticidade às coisas mais simples do nosso dia a dia. Apesar disso, é preciso ter cautela na hora de implementar esses algoritmos para não contribuir – ainda mais – com o racismo na sociedade. 

[Reuters]

fique por dentro
das novidades giz Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas