Em uma rara admissão de culpa, a polícia dos EUA confessou ter prendido a pessoa errada após usar um sistema de reconhecimento facial, segundo a ACLU (American Civil Liberties Union), uma ONG dos EUA que milita para defender e preservar direitos dos cidadãos do país. Isso confirma uma suspeita de muito tempo e quase impossível de provar na prática.

Nesta quarta-feira (24), o grupo de direitos civis apresentou uma queixa contra o Departamento de Polícia de Detroit por prender Robert Williams no início de janeiro deste ano e admitir, somente depois de mantê-lo em uma cela lotada durante a noite, que “o computador deve ter entendido errado”. Williams é negro, e os sistemas de reconhecimento facial notoriamente erram ao identificar pessoas de pele escura.

Uma reportagem do New York Times relata como a polícia prendeu Willians no gramado de sua casa e em frente à sua família por supostamente roubar cinco relógios avaliados em US$ 3.800 de uma loja em outubro de 2018.

De acordo com a denúncia, a polícia de Detroit usou imagens de segurança de má qualidade do local do crime e as combinou com a foto de carteira de motorista de Williams, que eles mostraram a um segurança que não testemunhou o incidente.

A polícia não indicou a razão pela qual ele estava sendo preso. Ao ser questionada pela detenção, apenas disse à esposa de Williams que pesquisasse no Google. Depois de uma noite na prisão, a polícia interrogou Williams, mostrou a ele uma imagem da cena do crime e perguntou se era ele. O acusado negou, e o detetive então disse: “Acho que o computador entendeu errado”. Segundo o jornal norte-americano, Williams foi mantido por várias horas após o interrogatório.

Um porta-voz da polícia de Detroit disse ao New York Times que o departamento “não realiza prisões com base apenas no sistema de reconhecimento facial” e que houve entrevistas com testemunhas, reconhecimento de suspeitos por meio de fotos e que o “investigador analisou o vídeo”.

Isso não coincide com uma resposta subsequente da promotoria do condado de Wayne, confirmando que o Departamento de Polícia de Detroit usou o reconhecimento facial para identificar Williams com base nas imagens de segurança e que uma testemunha ocular do crime não recebeu as imagens para reconhecimento de suspeitos — baseadas na correspondência de reconhecimento facial.

A procuradoria do condado de Wayne adiciona que Williams pode ter o caso extinto e suas impressões digitais podem ser removidas do registro do departamento.

No comunicado, a promotora Kym L. Worthy disse que, em 2019, o Departamento de Polícia de Detroit havia solicitado a ela que adotasse sua “política” de reconhecimento facial. Ela diz ter recusado devido ao fato de a tecnologia ser problemática e conter enviesamento racial.

“Este caso não deveria ter sido emitido com base na investigação do Departamento de Polícia de Detroit e, por isso, pedimos desculpas”, escreveu Worthy. “Isso não compensa as horas que Williams passou na prisão”.

A agência de notícias Reuters diz ter analisado documentos do governo que mostram que a polícia fez a correspondência usando a seção de identificação digital da polícia do estado de Michigan, que supostamente usa a tecnologia de reconhecimento facial da Rank One Computing.

O site da polícia do estado de Michigan informa que extrai informações da Rede Estadual de Fotos de Agência. Em uma área de perguntas e respostas, uma mensagem diz que o reconhecimento facial “nunca deve ser considerado uma forma de identificação positiva”.

Como aponta a ACLU, esse exemplo é excepcional em parte porque a polícia nunca admite usar reconhecimento facial. “Se Robert não tivesse ouvido um comentário do policial que o estava interrogando, ele provavelmente nunca saberia que sua prisão ocorreu pela falsa correspondência de um sistema de reconhecimento facial”, escreveram os dois advogados da ACLU familiarizados com o caso de Williams.

“De fato, as pessoas quase nunca são informadas quando o reconhecimento facial as identifica como suspeitas. Relatos dão conta de que o FBI pode ter usado essa tecnologia centenas de milhares de vezes — e o órgão ainda não conseguiu responder com clareza se notificou as pessoas presas como resultado da tecnologia”. A polícia obstruiu inúmeras tentativas do advogado de Williams de obter a documentação sobre a prisão.

Sabemos que a polícia americana usou o reconhecimento facial para fazer prisões no passado. Em 2016, a ACLU descobriu um documento de marketing interno da empresa de rastreamento de localização e mídia sociais Geofeedia, que se gabava de que sua tecnologia permitia que a polícia usasse reconhecimento facial para identificar “arruaceiros” que protestavam pela morte de Freedie Gray e prendê-los.

As implicações são ilimitadas. Logo após o início dos protestos pela morte de George Floyd, no mês passado, a ACLU entrou com uma ação contra a empresa de reconhecimento facial Clearview AI, que fornece às agências policiais e empresas privadas a capacidade de combinar impressões faciais retiradas de mídias sociais.

A Rank One disse ao Gizmodo que uso do reconhecimento facial no caso de Williams “contraria as melhores práticas estabelecidas para o reconhecimento forense da face” e que a empresa “se opõe sem reservas” à ideia de usar o reconhecimento facial como a única base para a prisão.

“No futuro, adicionaremos meios legais para impedir o uso de nosso software que viole nosso Código de Ética”, disseram eles. A companhia acrescentou que fará uma revisão tecnológica das salvaguardas de software para evitar usos indevidos.

A ACLU exige em sua queixa que o Departamento de Polícia de Detroit pare de usar o reconhecimento facial em suas investigações, “como os fatos do caso Williams demonstram que a tecnologia é falha e que os investigadores da polícia não são competentes para fazer o uso dessa tecnologia”.

Uso de reconhecimento facial pelo Estado

Neste mês, grandes empresas americanas que pesquisam e desenvolvem sistemas de reconhecimento facial anunciaram a saída do mercado ou a paralisação do fornecimento das tecnologias para entidades governamentais.

IBM explicou a saída alertando para os riscos de violações à privacidade e destacou os riscos da aplicação da tecnologia pela polícia e outros órgãos de aplicação da lei. Já a Amazon anunciou uma moratória de um ano para o uso do seu sistema Rekognition – tempo que a empresa considera o suficiente para que entidades dos EUA regulem o uso da tecnologia por forças policiais e de aplicação da lei. A Microsoft também anunciou medidas similares às da Amazon.

A medida das grandes empresas serve mais como um alerta sobre os potenciais riscos relacionados ao uso de sistemas de reconhecimento facial, principalmente por entidades do Estado. Elas podem servir como exemplo, mas existem pequenas e médias empresas dedicadas somente ao desenvolvimento de sistemas como esse. Além disso, a China já emprega a tecnologia amplamente, e companhias do país a vendem ao redor do mundo.

As principais preocupações em relação ao uso da tecnologia estão no reforço de injustiças. Sistemas de reconhecimento facial são treinados para identificar rostos com o uso de inteligência artificial e machine learning – basicamente, para que a máquina aprenda a identificar um rosto, é preciso incluir milhares de imagens e “ensiná-la” a distinguir características faciais, como distância entre os olhos ou tamanho do nariz.

Estudos mostram que os algoritmos podem apresentar taxas de falsos positivos ou falsos negativos, em grande parte com números exagerados para determinados grupos mal representados no treinamento da máquina, como negros ou asiáticos – dependendo da empresa que os desenvolve.

A noção de que as máquinas são “neutras” e “não erram” também abre espaço para abusos no uso do reconhecimento facial. Se sistemas forem utilizados como evidência, é menos provável que uma pessoa inocente consiga provar que não é ela naquelas imagens.

A linha entre o uso dos sistemas de reconhecimento facial para segurança pública e para a vigilância permanente da população e perseguição de determinados grupos étnicos é tênue.