Mais de 1.500 funcionários do Google e quase 2.000 apoiadores da academia, da indústria e da sociedade civil assinaram uma petição protestando contra a demissão de Timnit Gebru, cientista negra e especialista no uso da ética em inteligência artificial. Ela diz ter sido desligada após destacar preocupações sobre a falta de diversidade em protocolos da companhia.
“Somos solidários com a Dra. Timnit Gebru, que foi demitida de sua posição como Cientista de Pesquisa e Co-Líder da Equipe de Inteligência Artificial (IA) Ética do Google, após censura sem precedentes. Solicitamos ao Google Research que fortaleça seu compromisso com a integridade da pesquisa e se comprometa inequivocamente a apoiar pesquisas que honrem os compromissos assumidos nos Princípios de IA do Google”, diz a petição.
Gebru é conhecida por seu trabalho com inteligência artificial e o uso de algoritmos nessa tecnologia, especialmente em recursos de reconhecimento facial. Também é fundadora da organização sem fins lucrativos Black in AI e coautora de um importante artigo de 2018 que encontrou taxas de erro mais altas em tecnologias de análise facial para mulheres com pele escura.
Em seu perfil no Twitter, Gebru afirma ter sido demitida na última quarta-feira (2) depois de expressar frustração em um e-mail enviado a um grupo interno de mulheres e aliadas que trabalham na unidade de IA. Esse grupo se mostrou insatisfeito com as iniciativas de diversidade do Google. Gebru escreveu que a empresa promove uma cultura de “responsabilidade zero”, onde não há incentivo real para que a liderança seja mais diversificada.
I was fired by @JeffDean for my email to Brain women and Allies. My corp account has been cutoff. So I've been immediately fired :-)
— @timnitGebru@dair-community.social on Mastodon (@timnitGebru) December 3, 2020
“Sua vida piora quando você começa a advogar por pessoas sub-representadas, quando incomoda outros líderes. Não há mais como documentos ou conversas chegarem a algum lugar”, escreveu Gebru em um e-mail interno que acabou vazando na internet (via Platformer).
Sem resposta
O caso teria se agravado em novembro, quando um gerente sênior do Google disse para Gebru que ela teria que se retratar ou remover seu nome de um artigo de sua coautoria. De acordo com a Reuters, o documento em questão concluiu que empresas de tecnologia não estão fazendo o suficiente para garantir que sistemas de IA, projetados para copiar a fala e padrões de escrita dos seres humanos, não estejam sendo desenvolvidos de uma maneira que evite que eles reproduzam preconceitos. Ao contrário: estão mantendo os mesmos preconceitos, além de conterem termos ofensivos.
Em entrevista à Wired, Gebru disse que tentou negociar com o Google, oferecendo-se para retirar seu nome do artigo em troca de a empresa fornecer uma explicação completa de suas objeções e traçar uma lista de práticas recomendadas para lidar com tais incidentes no futuro.
“Senti que estávamos sendo censurados e pensei que isso tinha implicações para todas as pesquisas éticas de IA. Não tem como ter apenas artigos que deixem a empresa feliz o tempo todo e não apontem problemas. Isso é a antítese do que significa ser esse tipo de pesquisador”, contou Gebru.
Em uma mensagem no Twitter escrita uma semana antes de sua partida e supostamente relacionada ao assunto, Gebru disse: “Nada como um bando de homens brancos privilegiados tentando esmagar a pesquisa de comunidades marginalizadas para comunidades marginalizadas ordenando que PAREM com ZERO diálogo. A quantidade de desrespeito é incrível.”
Nothing like a bunch of privileged White men trying to squash research by marginalized communities for marginalized communities by ordering them to STOP with ZERO conversation. The amount of disrespect is incredible. Every time I think about it my blood starts boiling again.
— @timnitGebru@dair-community.social on Mastodon (@timnitGebru) November 26, 2020
Após rejeitar seu acordo de compromisso, o Google cortou acesso de Gebru ao seu e-mail e escreveu à equipe de inteligência artificial para dizer que havia aceitado sua demissão. Nessa mensagem, obtida pela Reuters, Jeff Dean, chefe da unidade de IA do Google, alegou que Gebru ameaçou sair do cargo caso suas exigências destacadas no artigo não fossem atendidas. O Google rejeitou.
“Aceitamos e respeitamos sua decisão de deixar o Google. Todos nós genuinamente compartilhamos a paixão de Timnit em tornar a IA mais justa e inclusiva”, escreveu Dean no e-mail enviado à equipe de inteligência artificial.
Repercussão
Jeff Dean alega que houve “muita especulação e mal entendido” sobre a demissão de Gebru. O chefe de inteligência artificial do Google confirmou que Timnit escreveu um e-mail exigindo uma série de condições para que incluísse o próprio nome no artigo escrito por ela mesma, “incluindo a revelação das identidades de cada pessoa com quem conversamos e consultamos como parte da revisão do artigo e do feedback”. No entanto, Dean não especificou nada além disso.
Na quarta-feira passada, mesmo dia em que Gebru alega ter sido demitida, o National Labor Relations Board, agência governamental que fiscaliza relações trabalhistas nos EUA, emitiu uma queixa contra o Google, acusando a companhia de monitorar ilegalmente, questionar e eventualmente demitir vários trabalhadores que protestaram publicamente contra as políticas da empresa e tentaram formar um sindicato.
Colaborou Caio Carvalho