O Google está ajudando o governo dos EUA a usar inteligência artificial para drones

O Google tem uma parceria com o Departamento de Defesa dos Estados Unidos para ajudar a agência no desenvolvimento de uma inteligência artificial para analisar gravações feitas por drones. O envolvimento da empresa com o governo causou insatisfação entre alguns funcionários da companhia.

• MonsterMind é o programa de defesa da NSA que neutraliza ataques contra redes dos EUA
• Israel vai adicionar lasers ao seu sistema de defesa Redoma de Ferro

O Project Maven, como é chamada a iniciativa, é um esforço para identificar objetos em gravações de drone que não foi reportado anteriormente. No entanto, foi amplamente discutido internamente na companhia durante a última semana, quando informações do projeto foram compartilhadas em uma lista de mailing interna, segundo fontes que pediram para não ser identificadas pois não foram autorizadas a falar publicamente sobre o projeto.

Alguns funcionários do Google ficaram nervosos com o fato de a companhia oferecer recursos tecnológicos para vigilância militar envolvida em operações de drone, segundo fontes, embora outros argumentem que o projeto levanta importantes questões éticas sobre o desenvolvimento do uso de machine learning (aprendizado de máquina).

Eric Schmidt, ex-CEO do Google, resumiu as preocupações com o fato de a indústria da tecnologia colaborar com o Pentágono, em uma conversa no ano passado. “Há uma preocupação geral na comunidade tecnológica de como a indústria militar pode usar esses recursos para matar pessoas erradas”, disse. Embora o Google tenha dito que seu envolvimento com o Project Maven não esteja ligado com uso em combates, o problema é que a situação causou preocupação entre funcionários, informaram as fontes.

Processando filmagens de drones

O Project Maven, um projeto do Pentágono conhecido como AWCFT (Algorithimic Warfare Cross-Functional Team), foi estabelecido em abril de 2017. A missão do projeto é “acelerar a integração de big data e machine learning do Departamento de Estado”. No total, o Departamento de Defesa gastou US$ 7,4 bilhões em áreas relacionadas a inteligência artificial em 2017, de acordo com informações obtidas pelo Wall Street Journal.

A primeira tarefa do projeto era ajudar o Pentágono a processar de forma eficiente a avalanche de vídeos coletados diariamente pelos drones usados pelo governo — a quantidade de filmagem é tão grande que seria impossível para humanos analisarem, segundo Greg Allen, um membro do Center For a New American Security (uma ONG da área de segurança), em um relatório de julho de 2017 sobre o uso militar de inteligência artificial. Embora o Departamento de Defesa tenha gastado muitos recursos do desenvolvimento de tecnologia de sensores avançados, o órgão deixou para trás a criação de ferramentas para analisar os dados.

“Antes do Maven, ninguém no departamento tinha ideia de como comprar ou implementar soluções de inteligência artificial”, escreveu Allen.

Foi pedido então ao pessoal do Project Maven que usassem aprendizado de máquina para identificar veículos e outros objetos em gravações de drone, tirando essa tarefa de analistas. O objetivo inicial do Maven era fornecer visão computacional avançada para uso militar, possibilitando a detecção automática e a identificação de objetos em 38 categorias por uma câmera instalada em um drone, segundo o Pentágono. O Maven forneceu ao departamento a habilidade de monitorar indivíduos conforme eles se movimentam para diferentes locais.

A inteligência artificial já está sendo implementada na aplicação da lei e em aplicações militares. No entanto, pesquisadores alertam que esses sistemas podem ser significativamente tendenciosos de formas que não são facilmente detectáveis. Por exemplo, a ProPublica noticiado em 2016 que um algoritmo usado para prever a probabilidade de reincidência entre detentos usava rotineiramente preconceitos raciais.

Relação Google e Departamento de Defesa

Embora o envolvimento do Google tenha preocupado alguns funcionários, é possível que o próprio produto do Google ofereça limites no acesso a dados sensíveis do governo. Embora seus competidores na nuvem, Amazon AWS e Microsoft Azure, também ofereçam serviços na nuvem para o governo que guardam informações classificadas como secretas, o Google não tem a oferta de um produto similar.

Um porta-voz do Google disse ao Gizmodo em um comunicado que a empresa está oferecendo as APIs do Tensor Flow, que são usadas em aplicações de aprendizado de máquina para ajudar em análises militares para detecção de objetos em imagens. Reconhecendo a natureza controversa do uso de machine learning para propósitos militares, o porta-voz disse que a companhia está trabalhando para “desenvolver políticas e salvaguardas” sobre esse tipo de utilização.

“Nós temos trabalhado com agências do governo para fornecer soluções de tecnologia há um tempo. Este projeto em específico é um piloto do Departamento de Defesa para uso das APIs de código aberto TensorFlow que podem ajudar no reconhecimento de dados não-secretos”, informou a empresa. “A tecnologia indica imagens para serem revisadas por humanos, e não é para usos ofensivos. O uso militar de machine learning naturalmente levanta questões válidas. Nós estamos ativamente discutindo esse tópico internamente e com outros atores conforme continuamos a desenvolver políticas e salvaguardas no desenvolvimento e uso de tecnologias de machine learning.”

Setor Industrial x Setor militar

O Departamento de Defesa estabeleceu uma linha do tempo bem agressiva para o Maven — o projeto era esperado para funcionar seis meses após sua fundação e, segundo relatos, tem feito aplicações em voos contra o Estado Islâmico desde dezembro.

Para atender a essas expectativas, o Departamento de Defesa se juntou a especialistas de inteligência artificial da indústria e da academia, trabalhando com informações da Unidade Experimental de Informações de Defesa, um programa de incubação de tecnologia dentro do departamento. Além disso, participou o grupo de consultoria Defense Innovation Board, criado pelo ex-secretário de Defesa Ash Carter e dedicado a fazer a ponte entre o Pentágono e o Vale do Silício.

Schmidt, que deixou recentemente a posição de chairman (presidente) do Google, faz parte do conselho da Defense Innovation Board. Durante um evento em julho do ano passado, Schmidt e outros membros do grupo discutiram a necessidade do Departamento de Defesa criar uma agência para treinar dados que poderiam ser usados para melhorar as capacidades militares de inteligência artificial. Membros do conselho da instituição tiveram um “papel de aconselhamento” no Project Maven, embora alguns deles façam parte do conselho executivo, o que facilitaria “uma entrada rápida” no projeto.

O Maven está sob responsabilidade do subsecretário de inteligência de defesa, e o tenente-general John Shanahan foi selecionado como diretor do projeto. O Maven foi pensado para ser uma faísca, segundo Shanahan, que acenderia “a chama da inteligência artificial” dentro de todo o Departamento de Defesa.

Durante o verão no hemisfério norte em 2017, a equipe se juntou para encontrar parceiros comerciais cuja experiência fosse necessária para tornar realidade suas ambições de inteligência artificial. No encontro Defense One Tech Summit, realizado em Washington, Drew Cukor, coronel do exército e uma das pessoas responsáveis pelo Maven, disse que uma relação simbiótica entre humanos e computadores era crucial para ajudar os sistemas defensivos a detectar objetos.

Falando para um público de militares e de especialistas da indústria da tecnologia, muitos deles do Vale do Silício, Cukor disse que os Estados Unidos estariam na corrida de armamentos que usam inteligência artificial. “Muitos de vocês devem ter notado que Eric Schmidt está chamando o Google agora de uma empresa de inteligência artificial, não uma empresa de dados”, disse. Embora Cukor não tenha especificado que o Google fosse um parceiro do Maven.

“Não existe uma caixa preta que fornece sistemas de inteligência artificial com as necessidades do governo, pelo menos por ora”, continuou. “Elementos chave precisam ser colocados juntos… e a única forma de fazer isso é com nossos parceiros comerciais ao nosso lado.”

Um porta-voz do Departamento de Defesa não quis dizer se o Google era o único parceiro da indústria do Project Maven ou esclarecer o papel do Google no projeto.

“Parecido com outros programas do Departamento de Defesa, o Project Maven não comenta especificações de detalhes de contrato, incluindo nomes e identidade dos contratantes e terceiros”, informou o porta-voz.