Você se lembra de quando usuários identificaram que a Inteligência Artificial (IA) do Twitter privilegiava pessoas brancas nas imagens cortadas? O caso tomou conta das publicações na rede social no ano passado e a plataforma teve que se posicionar. Ao público, Rumman Chowdhury, a diretora de engenharia de software da empresa, reconheceu o erro quando compartilhou os resultados de um experimento interno que avaliou o funcionamento do algoritmo.
A repercussão foi tamanha que agora o Twitter está oferecendo uma recompensa em dinheiro para quem identificar bugs na plataforma, mais especificamente nos algoritmos racistas. A ideia, segundo a empresa, é identificar “potenciais danos desse algoritmo” além dos já identificados pela equipe.
Rumman Chowdhury, disse em um tuíte que a empresa está realizando o concurso “porque acreditamos que as pessoas devem ser recompensadas por identificar esses problemas e não podemos resolver esses desafios sozinhos”
O Twitter afirma que esta é a “primeira competição de recompensas com tendência algorítmica da indústria” e está oferecendo prêmios em dinheiro de 500 a 3.500 dólares.
Ainda de acordo com a empresa, os vencedores serão anunciados em um workshop hospedado no Twitter, no dia 8 de agosto na DEF CON AI Village, em Los Angeles, uma das maiores convenções hacker do mundo.
Algoritmo racista
Na época, os usuários do Twitter publicaram vários exemplos de postagens com o rosto de uma pessoa negra e de uma branca para provar que a prévia do Twitter mostrava rostos brancos com mais frequência. As pessoas também descobriram que o algoritmo de visualização da rede social escolhia mais personagens de desenhos animados que não eram negros.
Quer um exemplo claro de como isso ainda está acontecendo? Veja a publicação da Disney+ com os personagens de Falcão e o Soldado Invernal – Claramente privilegiando pessoas brancas:
O Twitter explicou que testaram “esse viés antes de enviar o modelo e não encontraram evidências de preconceito racial ou de gênero em nossos testes”, contudo, admite que tem muitas análises para fazer.
Apesar desses esforços, o racismo cometido por algoritmos não acontece apenas no Twitter. Recentemente um estudo realizado pela Universidade de Chicago mostrou que o racismo algorítmico das operadoras de saúde tendem a excluir pacientes negros e pobres, classificando suas doenças como ‘mais leves’.
Cada vez mais fica claro que a Inteligência Artificial veio para somar e dar praticidade às coisas mais simples do nosso dia a dia. Apesar disso, é preciso ter cautela na hora de implementar esses algoritmos para não contribuir – ainda mais – com o racismo na sociedade.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
