A Axon, maior fabricante de câmeras policiais dos Estados Unidos, passou a proibir o uso da tecnologia de reconhecimento facial em seus produtos depois que seu conselho de ética independente disse, nesta quinta-feira (27), que a “tecnologia ainda não é confiável o suficiente para justificar seu uso em câmeras” devido ao “desempenho desigual e não confiável em relação a indivíduos de diferentes raças, etnias, gêneros e outros grupos identitários”.

Anteriormente conhecida principalmente pela venda das pistolas Taser, a Axon é hoje uma empresa de US$ 300 milhões que vende um conjunto de tecnologias, incluindo câmeras policiais, para 17.000 agências de segurança em mais de 100 países. A empresa também vende as chamadas “armas inteligentes” para uso militar e governamental.

Na última década, a Axon começou a dedicar grande parte das operações à venda de câmeras policiais. Com a proliferação da tecnologia, especialistas em liberdades civis estão cada vez mais preocupados que os dispositivos possam ser usados ​​para introduzir secretamente nas cidades a tecnologia de reconhecimento facial tão fortemente criticada.

Barry Friedman, diretor do Projeto de Policiamento da Faculdade de Direito da Universidade de Nova York e membro do comitê de ética da Axon, disse em um comunicado que “preocupações muito reais” sobre preconceito na tecnologia de reconhecimento facial tornam muito arriscado incorporar câmeras policiais.

“Atualmente, existem preocupações muito reais sobre a precisão do reconhecimento facial, e particularmente sobre os vieses na maneira como ele identifica as pessoas ao longo das linhas raciais, étnicas e de gênero”, disse Friedman. “Até abordarmos e mitigarmos esses desafios, não podemos arriscar incorporar a tecnologia de reconhecimento facial ao policiamento. O conselho de ética apoia a Axon por agir consistentemente com relação a isso”.

Em um comunicado enviado por e-mail ao Gizmodo, a Axon disse que “nós, como empresa, concordamos com a conclusão do conselho de ética de que a tecnologia de reconhecimento facial deveria ser excluída das câmeras corporais da Axon”.

“A atual tecnologia de correspondência facial gera sérias preocupações éticas. Além disso, há também limitações para usar essa tecnologia em câmeras corporais”, disse a Axon. “Consistente com a recomendação do Conselho, a Axon não vai comercializar produtos de reconhecimento facial em nossas câmeras corporais neste momento”.

A atual proibição foi relatada primeiramente pelo New York Times.

No mês passado, San Francisco se tornou a primeira cidade norte-americana a proibir a vigilância por meio do reconhecimento facial do governo. A vizinha Oakland parece pronta para fazer o mesmo, e as jurisdições dos Estados Unidos estão em estados variados de análise de ideias semelhantes. Em Nova York, por exemplo, uma proposta proibiria os proprietários de imóveis de usar vigilância de reconhecimento facial nos inquilinos. Já a Califórnia está considerando uma proibição em todo o estado de reconhecimento facial em câmeras policiais.

Há uma série de pesquisas que ressaltam os profundos problemas da tecnologia de vigilância de reconhecimento facial. Como o Gizmodo relatou anteriormente:

A maioria dos adultos norte-americanos está no banco de dados de reconhecimento facial da polícia, de acordo com um estudo da Georgetown Law. Um estudo do MIT descobriu que o Rekognition, popular produto de reconhecimento facial da Amazon, tem dificuldades para identificar os rostos de mulheres e de diferentes raças. Um estudo da ACLU em 2018 descobriu que a Amazon Rekognition falsamente combinava 28 membros do Congresso com fotos de indivíduos detidos pela polícia, e esses resultados impactavam negativamente e de forma desproporcional as pessoas não brancas.

O conselho de ética da Axon, que contou com a equipe do Projeto Policiamento, a pedido da própria Axon, argumenta em seu relatório de 42 páginas que em condições reais – o tipo de ação difícil de prever que um policial enfrenta diariamente – “a tecnologia de reconhecimento facial tem um desempenho muito fraco – tanto em termos de falsos negativos quanto de falsos positivos”.

O conselho também apontou para a disparidade de desempenho entre pessoas brancas em comparação com pessoas não brancas, e homens em comparação com mulheres, em parte devido a dados de treinamento não representativos que reforçam mais do que décadas de discriminação.

No ano passado, a Axon estabeleceu um comitê de ética focado em inteligência artificial e tecnologia de policiamento. Quase instantaneamente, o uso crescente das câmeras corporais da Axon como ferramentas de vigilância se tornou o foco principal.

Entre o conjunto de seis conclusões, conforme detalhado em seu relatório, o próprio conselho disse que os comitês de ética de inteligência artificial ​​não são tão importantes quanto a regulamentação governamental das tecnologias de vigilância que usam IA ​​- regulamentação essa que, em grande parte, não existe atualmente. O relatório diz:

“Também somos fortes defensores da necessidade de regulamentações governamentais de reconhecimento facial. Embora apoiamos a contenção e o comprometimento da Axon com a ética por meio da criação e do uso desse conselho, sabemos que não temos todas as respostas e não representamos todas as comunidades nas quais o reconhecimento facial pode ser implantado. Não podemos depender de empresas privadas para se regularizarem completamente, embora certamente possamos mantê-las sob altos padrões éticos. Para esse fim, pedimos aos governos – federais, estaduais ou locais – que intervenham e preencham essa lacuna regulatória, como alguns já começaram a fazer”.

Em 2018, o presidente da Microsoft, Brad Smith, solicitou uma regulamentação federal do reconhecimento facial, e a empresa ganhou elogios na imprensa em abril por divulgar sua decisão de não fornecer tecnologia de reconhecimento facial a uma agência de segurança da Califórnia.

“Vivemos em uma nação de leis e o governo precisa desempenhar um papel importante na regulamentação da tecnologia de reconhecimento facial”, escreveu Smith. “Como princípio geral, parece mais sensato pedir a um governo eleito que regule as empresas do que pedir a empresas não-eleitas que regulem tal governo”.

Embora a Axon evite usar a tecnologia de reconhecimento facial em suas câmeras corporais por enquanto, a empresa deixou em aberto a possibilidade de adotá-la em uma data posterior. A companhia disse em seu comunicado que acredita que “a tecnologia de reconhecimento facial merece mais pesquisas para que haja um melhor entendimento e resolução dos principais problemas identificados no relatório, incluindo a avaliação de maneiras de eliminar padrões discriminatórios dos algoritmos, como recomenda o conselho”. O comitê de ética da Axon espera revisitar a questão “periodicamente” à medida que a tecnologia muda.