Por que o reconhecimento facial não deveria ser usado pela polícia

Especialistas em reconhecimento facial foram chamados para dar seus pareceres em uma consulta do Congresso dos Estados Unidos, na última quarta-feira (22), e eles tinham muitas ideias em comum: citando uma infinidade de abusos, todos pressionaram os parlamentares federais a dar uma resposta ao uso generalizado e desregulado desse tecnologia para a aplicação da lei.

No entanto, a ideia de que deveríamos simplesmente proibir a polícia de usar essa tecnologia problemática e, atualmente, comprovadamente racista, não era o único argumento a ser ouvido.

Alguns dos especialistas sugeriram de fato que, talvez, com a quantidade certa de regulamentação, os Estados Unidos não irão se transformar em um estado policial repressivo apenas porque seus cidadãos têm seus rostos escaneados toda vez que estão na rua.

Os especialistas falaram diante do Comitê de Supervisão e Reforma da Câmara dos EUA. Entre eles advogados, cientistas, acadêmicos e uma autoridade da segurança. Todos falaram sobre o potencial de abuso, enquanto ofereciam uma lista de exemplos do mundo real em que o reconhecimento facial já havia sido usado para desrespeitar os direitos dos cidadãos americanos.

• Garota cria app que usa reconhecimento facial para ajudar portadores de Alzheimer
• Sistema de reconhecimento facial ajuda polícia baiana a prender homem procurado por homicídio

Com poucas exceções, a tecnologia, que cada especialista descreveu como profundamente falha e intrinsecamente tendenciosa, tem sido mal empregada pelos policiais não treinados que a utilizam – que muitas vezes ocultam o fato de ter usado a tecnologia justamente por saberem com os algoritmos podem conter defeitos.

“Usar a inteligência artificial para conferir uma impressão visual altamente subjetiva que possui uma auréola de certeza não é algo que se baseia em um fato, nem é justo”, disse o Dr. Cedric Alexander, ex-chefe de polícia e ex-diretor de segurança da Transportation Security Administration (TSA). “Porém”, lamentou ele, “não é ilegal”.

Apesar de oferecer alguns dos argumentos mais poderosos a favor da proibição – pelo menos temporária, do uso da tecnologia, observando, por exemplo, que não existem normas que regulem os tipos de imagens incluídas no banco de dados de reconhecimento facial de “qualquer” agência – “Quem está incluído nele? Quem sabe?”– Alexander discordou que seja a hora de “pausar” o uso de reconhecimento facial, uma opinião unanimemente compartilhada por seus colegas especialistas presentes.

Andrew Ferguson, que é professor da Universidade do Distrito de Columbia, por exemplo, não pegou leve em seus comentários iniciais:

“Construir um sistema com o potencial de examinar e identificar arbitrariamente indivíduos sem qualquer suspeita criminal e descobrir informações pessoais sobre sua localização, interesses ou atividades pode e deve simplesmente ser proibido por lei”.

Fim do reconhecimento facial na segurança pública?

Porém, em uma sala em que republicanos e democratas pareciam concordar em geral com os especialistas – com o fato de que o reconhecimento facial representa uma ameaça clara e presente aos direitos civis e liberdades civis dos americanos – havia duas conversas acontecendo ao mesmo tempo.

Enquanto a solução de Ferguson era proibir completamente os algoritmos policiais de obter acesso irrestrito às (frequentemente citadas) “50 milhões” câmeras de vigilância em todo o país, outras propostas sugeriram que, talvez, exista um futuro no qual as faces de todos os americanos sejam vigiadas, mas apenas sob um sistema justo e bem regulado, transparente e responsável perante o povo.

O exemplo mais claro disso foi nas declarações sobre os preconceitos inerentes ao reconhecimento facial, que estudos têm demonstrado repetidamente serem dramaticamente menos precisos quando se trata de rostos de mulheres e pessoas negras.

“Nossos rostos podem muito bem ser a fronteira final da privacidade”, testemunhou Joy Buolamwini, fundadora da Algorithmic Justice League, cuja pesquisa sobre ferramentas de reconhecimento facial no MIT Media Lab identificou uma taxa de erro de 35% para fotos de mulheres de pele mais escura, em oposição às buscas em bancos de dados usando fotos de homens brancos, que se mostraram precisas 99% do tempo.

“Em um teste, o software de reconhecimento da Amazon falhou até no rosto de Oprah Winfrey, rotulando-a como se fosse um homem”, disse. “Particularmente, eu tive que recorrer a literalmente usar uma máscara branca para ter meu rosto detectado por essa tecnologia. A codificação no rosto branco é a última coisa que eu esperava fazer no MIT, um epicentro americano de inovação”.

O viés comprovado dos sistemas de reconhecimento facial foi apresentado por Buolamwini, entre outros especialistas, como um dos motivos para declarar uma “moratória” sobre o uso do reconhecimento facial. Ou seja, proibir temporariamente seu uso até que a tecnologia seja aperfeiçoada, ou “amadurecida”, como disse um deles.

Clare Garvie diz que uma moratória é apropriada e necessária. Ela é autora de um estudo recente no Georgetown Law Center on Privacy and Technology, que descobriu que a polícia usou fotos de celebridades e desenhos policiais para tentar identificar suspeitos. “Pode ser que possamos estabelecer regras de senso comum que distingam entre usos apropriados e inapropriados – usos que promovem a segurança pública e usos que ameaçam nossos direitos e liberdades civis”, acrescentou.

Espaço para abusos

Esses argumentos deixam pelo menos algum espaço de manobra para os parlamentares alimentarem a noção de que há um futuro em que uma inteligência artificial projetada para uso policial possa escanear os rostos dos americanos sempre que eles saírem de suas casas.

É uma visão de um estado policial que é “bom”, na medida em que a própria polícia é ética só pelo fato de poder ser responsabilizada por regras e regulamentos; um futuro em que os procedimentos policiais serão abertos e transparentes, e os réus tenham a sua disposição toda a história sobre como acabaram ficando sob suspeita.

Essa é uma fantasia absurda que ignora o que é já sabemos sobre os abusos cometidos pelas agências de aplicação da lei dos EUA durante o último meio século.

Só nos últimos dois anos, uma investigação da Associated Press revelou que policiais de todo o país usaram indevidamente as bases de dados de aplicação da lei “para obter informações sobre parceiros românticos, parceiros de negócios, vizinhos, jornalistas e outros por razões que nada têm a ver com o trabalho diário da polícia…”. A realização desse abuso generalizado por parte da polícia não fez o Congresso agir. Nem sequer dissuadiu o tipo de perseguição policial que os repórteres expuseram.

Em março deste ano foi noticiado que um policial da Flórida fez “várias centenas de consultas questionáveis de banco de dados procurando por mulheres”. Pelo menos 150 mulheres foram procuradas no sistema. Empregados de agências federais cujo trabalho é altamente confidencial também tiveram esse comportamento revelado.

Um relatório de 2013 do Escritório de Inspetor-Geral da Agência Nacional de Segurança, por exemplo, detalhou como um funcionário da NSA – no seu primeiro dia de trabalho – “consultou seis endereços de e-mail pertencentes a uma ex-namorada, uma pessoa americana, sem autorização”.

Em cada um destes casos, já havia regulamentos para proibir o tipo de abuso cometido. Eles simplesmente não tiveram efeito algum.

Os especialistas que falaram ao Congresso dos EUA alimentaram a noção de que pode existir alguma solução legislativa que permita o uso do reconhecimento facial por parte das autoridades policiais, mas também explicaram por que qualquer solução desse tipo seria essencialmente inconstitucional. Caso algo assim fosse aprovado, o Congresso poderia também dar à polícia a capacidade de coletar DNA, impressões digitais ou histórico de localização de telefones celulares por capricho, sem intimação, mandado ou ordem judicial de qualquer tipo.

“Este poder levanta questões sobre as nossas proteções garantidas pela Quarta e Primeira Emenda”, disse Garvie. “A polícia não é capaz de coletar secretamente as impressões digitais de uma multidão de pessoas que estão na rua. Eles também não conseguem andar pela multidão exigindo que todos apresentam a carteira de motorista. Mas eles podem escanear seus rostos remotamente e, em segredo, e identificar cada pessoa graças à tecnologia de reconhecimento facial”.

Um programa de reconhecimento facial que apresente viés racial continua sendo um dos usos mais assustadores da tecnologia para a aplicação da lei. Um sistema desses não deveria simplesmente ser colocado “em pausa” até que a Amazon descubra como identificar impecavelmente moradores de comunidades negras, onde, supõe-se, a maioria dessas câmeras equipadas com IA serão inevitavelmente instaladas. Na verdade, esse uso não deveria ocorrer de maneira nenhuma.

E no Brasil

A discussão sobre o uso de reconhecimento facial pela polícia e para a aplicação da lei está só começando. Os EUA já estão se movimentando no sentido de regulamentar a tecnologia, mas em muitos países, como o Brasil, essa discussão não veio à tona e chega a ser difícil imaginar que congressistas irão dedicar algum tempo para discutir o tema. Isso porque a solução é vendida como bala de prata para a segurança pública, que é justamente um dos maiores desafios do País.

Por aqui, sistemas de inteligência artificial em câmeras de vigilância estão sendo testadas em Campinas e na Bahia. A tecnologia já ajudou, inclusive, a polícia a prender um homem durante o carnaval.