Vinte grupos de acionistas da Amazon enviaram, na sexta-feira (15), uma carta ao CEO da empresa, Jeff Bezos, pressionando para que ele parasse de vender o software de reconhecimento facial da empresa às autoridades de aplicação da lei, segundo noticia a CNN.

Chamado de Rekognition, o software esteve sob fortes críticas no mês passado quando a ONG União Americana pelas Liberdades Civis (ACLU, na sigla em inglês) publicou documentos internos reveladores relacionados ao uso do programa pela polícia. Diversas organizações de direitos civis coassinaram a carta, exigindo que a Amazon parasse de assistir a vigilância governamental, e vários membros do Congresso dos EUA expressaram preocupações com as parcerias.

• Escola chinesa testa reconhecimento facial para ver se alunos estão prestando atenção na aula
• Grupo no Reino Unido pede proibição de sistema de reconhecimento facial com altas taxas de falso positivo
• Google recua de parceria com governo dos EUA e diz que sua IA não será usada para armas ou vigilância

“Estamos preocupados que a tecnologia possa ser usada para visar e vigiar injusta e desproporcionalmente pessoas de cor, imigrantes e organizações de sociedade civil”, escreveram os acionistas, que incluiriam o Social Equity Group e a Northwest Coalition for Responsible Investment. “Estamos preocupados que as vendas possam ser expandidas para governos estrangeiros, incluindo regimes autoritários.”

A Amazon promoveu publicamente como a polícia usou seu software de reconhecimento facial para identificar suspeitos para as autoridades. No site da Amazon, um analista de sistemas do Condado de Washington, no Oregon, explicou como o Rekognition foi alimentado com um banco de dados de 300 mil fotos de detenção para comparar com rostos vistos em imagens de vigilância. É importante apontar que ser preso normalmente é o que faz com que uma pessoa acabe em um banco de dados, e não ser condenada por um crime. Se uma pessoa presa for considerada inocente, não há garantia de que sua foto será removida desses bancos de dados para correspondência futura.

Em maio, a ACLU divulgou documentos internos preocupantes, incluindo um e-mail de um funcionário do Condado de Washington dizendo à Amazon que estavam usando o Rekognition para identificar “indivíduos inconscientes ou mortos”, assim como “possíveis testemunhas”. Outro documento mostrava o software identificando uma foto de O.J. Simpson como uma correspondência de 93,53% com um preso branco.

A repercussão foi rápida, especialmente entre membros minoritários do Congresso. A “Convenção Negra” (Black Caucus) do Congresso enviou uma carta a Bezos, apontando que, pelo fato de “comunidades de cor serem mais forte e agressivamente policiadas do que comunidades brancas” nos EUA, eles estão preocupados que “decisões erradas serão tomadas devido ao conjunto de dados distorcidos produzido por […] práticas de policiamento inconstitucionais”. Se uma cidade prende desproporcionalmente pessoas de cor, é provável que seu banco de dados de fotos de prisão seja na maior parte composto por pessoas de cor, incluindo aquelas eventualmente inocentadas de crimes.

O reconhecimento facial, tornando-se uma ferramenta policial usada com mais frequência em pessoas de cor, é alarmante por muitas razões, a menor delas sendo que a tecnologia é menos precisa com esses indivíduos. Os deputados Keith Ellison e Emanuel Cleaver, ambos negros, também enviaram uma carta à Amazon, citando preocupações com a precisão da tecnologia, apontando um estudo do MIT que encontrou enormes disparidades raciais na precisão da tecnologia de reconhecimento facial.

“Uma série de estudos mostrou que a tecnologia de reconhecimento facial é consistentemente menos precisa na identificação de rostos de afro-americanos e mulheres em comparação com caucasianos e homens”, escreveram Ellison e Cleaver. “As taxas desproporcionalmente altas de detenção para membros da comunidade negra tornam problemático o uso da tecnologia de reconhecimento facial por parte das autoridades, porque ela poderia servir para reforçar essa tendência.”

O Rekognition é capaz de analisar imagens de qualquer fonte, ou seja, aparecer em imagens ou vídeos de qualquer ferramenta de vigilância da polícia — incluindo câmeras de segurança, câmeras corporais e drones — poderia potencialmente significar ser combinado com bancos de dados. As preocupações de privacidade são óbvias e muito reais, considerando que os Estados Unidos usa reconhecimento facial em aeroportos, fronteiras e até em escolas.

Entramos em contato com a Amazon e atualizaremos esta publicação se tivermos alguma resposta.

[CNN Money]

Imagem do topo: AP