Em dezembro do ano passado (2020) Timnit Gebru, até então colíder da equipe de ética em Inteligência Artificial do Google foi demitida de maneira bastante arbitrária. Gebru tem uma vasta e importante carreira na pesquisa e no campo de Inteligência Artificial, teceu sólidas críticas a projetos de reconhecimento facial e foi uma das fundadoras do Black In AI. A equipe de ética que desenvolveu no Google é considerada umas das mais diversas da área, tanto a respeito de especialidades quanto de pessoas.
Sua demissão gerou revolta em muitos dos próprios funcionários do Google e em uma enorme rede de profissionais e pesquisadores em tecnologia do mundo inteiro. O que se sabe é que Jeff Dean, chefe de IA do Google, forçou sua saída por não concordar com um artigo em que Gebru é coautora. Neste artigo há questionamentos sobre a atuação da corporação no processamento de grandes modelos de linguagem, sobretudo quanto aos riscos e consequências da manipulação de uma quantidade enorme de dados. Alguns desses riscos incluem os perigos de modelos de linguagem imitarem “muito bem” a linguagem humana o que pode gerar o uso para fins criminosos, como produção e disseminação de desinformação e discurso de ódio, por exemplo; ou ainda o desenvolvimento de um modelo de IA racista, sexista, xenófoba entre outras problemáticas, visto que a coleta ocorre de forma massiva e indiscriminada a partir de dados da Internet; e, um dos pontos que gostaria de tensionar aqui, os custos ambientais causados, principalmente, pela exacerbada energia elétrica necessária para que os computadores sejam capazes de processar a quantidade de dados destes modelos. Isso significa que quantos mais dados processados maiores serão as emissões de carbono. Um único treinamento de uma única versão de modelo de linguagem seria equivalente à emissão de carbono de um voo ida e volta de Nova York a São Francisco (4.675km x2), por exemplo. Para as autoras, esse modelo de processamento beneficiaria somente as corporações e sem um plano de contingência de danos ambientais as consequências seriam muitas, sobretudo para populações e nações marginalizadas. Gebru levanta essas questões justamente para precaver danos que atingiriam toda a sociedade e não só a corporação. Afinal qual a função do setor de ética senão apontar e orientar a respeito desse tipo problema, não é? Seu ex-chefe, Jeff Dean, afirmou que o artigo não atendeu ao padrão de publicação do Google e então forçou sua demissão. Corta para agosto de 2021, o IPCC (Intergovernmental Panel on Climate Changes / Painel Intergovernamental sobre Mudanças Climáticas), desenvolvido pelo o Programa das Nações Unidas para o Meio Ambiente (ONU Meio Ambiente), lançou o relatório Climate Change 2021: the Physical Science Basis (Mudanças Climáticas 2021: a base das Ciências Físicas) que informa basicamente que as mudanças climáticas causadas pela humanidade são irreversíveis e a tendência é de piorar nas próximas décadas caso nada seja feito para reduzir os danos. Essa informação gerou uma grande conversação nas mídias sociais, na imprensa, nos ativistas, organizações da sociedade civil que tratam do tema entre outros setores da sociedade. Dentre as quais, a conversa da imagem abaixo retirada diretamente do Twitter.
Tais Oliveira é mestre e doutoranda em Ciências Humanas e Sociais na UFABC e pesquisa sobre tecnologia, sociedade e relações étnico-raciais.
A opinião do colunista não necessariamente representa o posicionamento do Bitniks.
