Google deve abandonar parceria com Pentágono em programa polêmico de IA militar

O Google não vai renovar o contrato do seu polêmico trabalho de fornecimento de inteligência artificial ao Departamento de Defesa dos EUA para analisar imagens de drones depois que o atual vínculo expirar.

A CEO do Google Cloud, Diane Greene, anunciou a decisão em uma reunião com funcionários na manhã de sexta-feira (1), disseram três fontes ao Gizmodo. O contrato atual expira em 2019, e não haverá uma renovação, disse Greene. A reunião, chamada de “Weather Report”, é uma atualização semanal sobre os negócios do Google Cloud.

• O plano de análise de imagens militares de drone usando IA vai além do Google
• Funcionários do Google pedem demissão por envolvimento da empresa com projetos militares

O motivo pelo qual o Google não escolherá prosseguir com o Maven atualmente seria a reação pública terrível enfrentada pela empresa, disse Greene, acrescentando que a decisão foi tomada em um momento em que o Google estava mais agressivamente em busca de trabalho militar. A empresa planeja revelar novos princípios éticos sobre o uso de inteligência artificial na próxima semana. Um porta-voz do Google não respondeu imediatamente a perguntas sobre os comentários de Greene.

A decisão do Google de fornecer inteligência artificial ao Departamento de Defesa para a análise de imagens de drones provocou uma reação negativa dos funcionários e acadêmicos do Google. Milhares de empregados assinaram uma petição, pedindo ao Google para cancelar seu contrato com o projeto, apelidado de Project Maven, e dezenas de funcionários se demitiram em protesto.

O Google, enquanto isso, defendeu seu trabalho no Project Maven, com executivos de alto escalão apontando que o contrato é de valor relativamente pequeno e que sua contribuição equivale apenas a fornecer ao Departamento de Defesa software de código aberto.

Mas os e-mails internos analisados pelo Gizmodo mostram que os executivos viam o Project Maven como uma oportunidade de ouro que abriria portas para negócios com agências militares e de inteligência. Os e-mails também mostram que o Google e seus parceiros trabalharam extensivamente para desenvolver algoritmos de aprendizado de máquina para o Pentágono, com o objetivo de criar um sistema sofisticado que pudesse vigiar cidades inteiras.

Os dois conjuntos de e-mails revelam que a liderança sênior do Google apoiava com entusiasmo o Project Maven — principalmente porque colocaria o Google Cloud no caminho para conquistar contratos maiores com o Pentágono —, mas que ela estava profundamente preocupada com como o envolvimento da empresa seria visto. Os e-mails também descrevem o cronograma interno e as metas do Google para o Project Maven.

Para trabalhar no Project Maven, o Google Cloud enfrentou um desafio. A empresa precisava usar imagens coletadas por drones militares para construir seus modelos de aprendizado de máquina, mas faltava a autorização oficial do governo para armazenar esse tipo de dados confidenciais em sua nuvem.

Essa autorização, conhecida como FedRAMP, estabelece padrões de segurança para serviços em nuvem que são contratados pelo governo. Mas o Google não tinha isso — então, precisou confiar em outras imagens geoespaciais para seus primeiros trabalhos no Project Maven. De acordo com um e-mail escrito por Aileen Black, diretora executiva que supervisiona os negócios do Google com o governo dos EUA, o Project Maven patrocinou o pedido do Google para níveis mais altos de autorização do FedRAMP, Guias de Requisitos de Segurança 4 e 5. “Eles estão acelerando nosso SRG4 ATO (certificado de segurança)”, ela escreveu. “Isso não tem preço.”

No fim de março deste ano, o Google anunciou que havia recebido autorização provisória do FedRAMP 4 para operar (ATO, na sigla em inglês). “Com essa ATO, o Google Cloud Platform demonstrou seu compromisso de estender a clientes do governo”, disse Suzanne Frey, diretora de confiança, segurança, privacidade e conformidade do Google, em uma coletiva de imprensa.

Obter essa autorização foi crucial não apenas para o Project Maven, mas também para a futura busca do Google por outros contratos com o governo. O Google está concorrendo a um contrato de computação em nuvem no valor de US$ 10 bilhões.

Greene havia dito a funcionários preocupados durante as reuniões que o contrato do Google com o Departamento de Defesa valia apenas US$ 9 milhões, como informou o Gizmodo inicialmente — um número relativamente pequeno no que se refere a contratos com o governo.

No entanto, e-mails internos analisados ​​pelo Gizmodo mostram que o contrato inicial valia pelo menos US$ 15 milhões e que o orçamento para o projeto deveria crescer para até US$ 250 milhões. Esse conjunto de e-mails, noticiado pela primeira vez pelo The New York Times, mostra executivos sêniores do Google Cloud preocupados com como o envolvimento do Google no Project Maven seria visto quando se tornasse público.

Em um outro conjunto de e-mails não divulgados anteriormente, os funcionários do Google que trabalhavam no Project Maven descreveram a reunião com o tenente-general Jack Shanahan, que liderou a iniciativa Maven, e outros representantes do governo nos escritórios do Google. Esses e-mails falam de marcos técnicos para o Maven e descrevem os esforços detalhados do Google para desenvolver a tecnologia.

O Google garantiu o contrato do Project Maven no fim de setembro, como revelam os e-mails, depois de competir por meses contra vários outros “pesos pesados ​​da IA” pelo trabalho. A IBM estava na disputa, como o Gizmodo informou no mês passado, junto com a Amazon e a Microsoft. Um dos termos do contrato do Google com o Departamento de Defesa era que o envolvimento do Google não seria mencionado sem a permissão da empresa, afirmam os e-mails.

“É com grande satisfação que anuncio que o Subsecretário de Defesa para Inteligência dos EUA concedeu ao Google e aos nossos parceiros um contrato de US$ 28 milhões, dos quais US$ 15 milhões vão para o Google ASI, GCP e PSO”, escreveu Frohman, chefe de vendas de inteligência e defesa no Google, em um e-mail em 29 de setembro de 2017. “O Maven é um grande programa governamental que resultará em segurança melhorada para cidadãos e nações por meio da identificação mais rápida de males como atividades extremistas violentas e abusos dos direitos humanos. A escala e a mágica do GCP (Google Cloud Platform), o poder do Google ML (aprendizado de máquina) e a sabedoria e a força de nosso pessoal resultarão em melhorias de várias ordens de magnitude em segurança e proteção para o mundo.”

Outros e-mails descrevem reuniões no final de 2017 com representantes do Pentágono nos escritórios do Google em Mountain View e Sunnyvale. “O cliente considera a equipe Cloud AI o núcleo do programa MAVEN, onde todo o resto será construído para testar e implantar nossos modelos de aprendizado de máquina”, diz uma mensagem. O Google planejava entregar o produto de seu trabalho no final de março e continuar refinando-o até junho.

A empresa também designou mais de dez de seus funcionários para trabalhar no Project Maven. Quando o Gizmodo noticiou o envolvimento do Google no projeto no início deste ano, a companhia minimizou seu trabalho, afirmando que havia apenas fornecido seu software de código aberto TensorFlow ao Pentágono.

Entretanto, o Google pretendia construir um sistema de vigilância “semelhante ao Google Earth”, que permitisse aos analistas do Pentágono “clicar em um prédio e ver tudo associado a ele”, e construir gráficos de objetos como veículos, pessoas, características da terra e grandes multidões para “a cidade inteira”, afirma um e-mail que recapitulava uma reunião de início do Maven com representantes do Pentágono. A inteligência artificial do Google traria “uma capacidade excelente” para “análises quase em tempo real”, dizia o e-mail.

Em dezembro, o Google já havia demonstrado uma alta taxa de precisão na classificação de imagens para o Project Maven. Trabalhando com imagens fornecidas por uma empresa de imagens geoespaciais, a DigitalGlobe, e com a rotulagem de dados fornecida por uma empresa de inteligência artificial, a CrowdFlower, o Google conseguiu criar um sistema capaz de detectar veículos perdidos por rotuladores de imagens especializados.

“A equipe de liderança do cliente ficou extremamente feliz com seu trabalho, sua participação ativa e os primeiros resultados que demonstramos usando o conjunto de dados de validação”, escreveu Reza Ghanadan, gerente sênior de engenharia do Google. “Entre outras coisas, os resultados mostraram vários casos em que, com mais de 90% de confiança, o modelo havia detectado veículos que foram perdidos por rotuladores especialistas.”

Apesar da empolgação com o desempenho do Google no Project Maven, os executivos se preocuparam em manter o projeto em sigilo. “É muito empolgante que estejamos perto de receber o MAVEN! Isso seria uma grande vitória”, escreveu Fei-Fei Li, cientista-chefe de IA no Google Cloud, em um e-mail em 24 de setembro de 2017. “Acho que devemos fazer um bom trabalho de relações públicas em cima da história do Departamento de Defesa colaborando com o Google Cloud Platform a partir de um ângulo tecnológico da vanilla cloud (armazenamento, rede, segurança etc.), mas evitar a TODOS OS CUSTOS qualquer menção ou implicação da IA.”

“O Google já está lutando contra problemas de privacidade quando se trata de IA e dados; eu não sei o que aconteceria se a mídia começasse a captar um tema sobre o Google estar construindo secretamente armas de inteligência artificial ou tecnologias de IA para habilitar armas para a indústria de defesa”, acrescentou.

Greene disse aos funcionários hoje que a conversa sobre o uso ético da inteligência artificial é enorme e que o Google está na vanguarda dessa conversa. “É nossa obrigação mostrar liderança”, afirmou Greene, segundo uma fonte.

Imagem do topo: Jim Cooke (Gizmodo)