A carta que 1.400 funcionários enviaram à chefia do Google contra um buscador censurado para a China

Depois de uma ação parecida contra um programa secreto de imagens de drone com inteligência artificial para as Forças Armadas dos Estados Unidos, o Project Maven, funcionários do Google estão mais uma vez se organizando internamente para pressionar sua liderança — desta vez em torno de um projeto apelidade de “Dragonfly”, o produto de busca que a empresa pretende disponibilizar para o mercado chinês e que respeita a censura exigida pelo governo da China.

• O Google rastreia onde você esteve mesmo com o Histórico de Localização desativado
• Google estaria desenvolvendo uma ferramenta de buscas censurada para funcionar na China

A carta, primeiro noticiada pelo New York Times nesta quinta-feira (16), faz várias exigências por transparência, mais claramente dizendo que “os funcionários do Google precisam saber o que estamos construindo”. A indignação vem tanto da natureza do Dragonfly — um produto que alguns empregados sentem que viola os Princípios da Inteligência Artificial — quanto do fato de que muitos funcionários só ficaram sabendo de sua existência por meio das notícias, em vez de ouvir de seus próprios chefes.

Os funcionários do Google escrevem na carta que eles não têm “as informações necessárias para tomar decisões eticamente informadas sobre nosso trabalho, nossos projetos e nosso emprego” e, como resultado, pedem que a liderança forneça “mais transparência, um lugar na mesa de discussões e um comprometimento com processos claros e abertos”.

Entramos em contato com o Google e vamos atualizar esta publicação se tivermos uma resposta.

O Gizmodo obteve a carta de uma fonte familiarizada com a situação, e você pode lê-la na íntegra abaixo (ênfase dos funcionários):

Nossa indústria entrou em uma nova era de responsabilidade ética: as escolhas que fazemos têm importância em escala global. Ainda assim, a maioria de nós só descobriu sobre o projeto Dragonfly por meio de reportagens no começo de agosto. O Dragonfly seria supostamente uma empreitada para fornecer Busca e notícias móveis personalizadas para a China, de acordo com a censura do governo chinês e com as exigências de vigilância. Oito anos atrás, quando o Google retirou as buscas na web censuradas da China, Sergey Brin explicou a decisão, dizendo: “em alguns aspectos de política (governamental), particularmente a respeito da censura e a respeito da vigilância de dissidentes, vejo alguns sinais de totalitarismo”. A volta do Dragonfly e do Google à China levanta problemas morais e éticos urgentes, cuja substância estamos discutindo em outros lugares.

Aqui, abordamos os problemas estruturais adjacentes: atualmente, não temos as informações necessárias para tomar decisões eticamente informadas sobre nosso trabalho, nossos projetos e nosso emprego. O fato de que a decisão de construir o Dragonfly foi tomada em segredo e que avançou mesmo com os Princípios de IA em vigor deixa claro que os Princípios não são o bastante. Nós urgentemente precisamos de mais transparência, de um lugar na mesa de discussões, de um comprometimento com processos claros e abertos: (nós), funcionários do Google, precisamos saber o que estamos construindo.

Diante desses problemas significativos, nós, do abaixo-assinado, estamos pedindo um Código Amarelo para tratar de Ética e Transparência, pedindo que a liderança trabalhe com os funcionários para implementar transparência concreta e processos de supervisão, incluindo os seguintes:

1. Uma estrutura de revisão de ética que inclua líderes e representantes de funcionários;

2. A indicação de ombudsmans, com contribuição significativa em sua seleção;

3. Um plano claro para transparência suficiente para possibilitar aos funcionários do Google uma escolha ética individual sobre aquilo em que eles trabalhando; e

4. A publicação de “casos de teste ético”; uma avaliação ética do Dragonfly, do Maven e do Airgap GCP no que diz respeito ao Princípio de IA; e comunicações visíveis internamente e avaliações em relação a quaisquer novas áreas de preocupação ética substancial.

Imagem do topo: AP