Durante uma reunião pública nesta segunda-feira (29), o chefe da polícia de Detroit, James Craig, estimou que a tecnologia de reconhecimento facial utilizada por seu departamento falha em identificar suspeitos com exatidão em “96% das vezes”, acrescentando que quase todos os casos ficariam sem solução se a polícia dependesse apenas dessa tecnologia para identificar os indivíduos.

“Se usássemos apenas o software [para identificar suspeitos], não resolveríamos os casos em 95 a 97% do tempo”, disse Craig. “Isso se dependêssemos totalmente do software, o que seria contra nossa política atual […] Se usássemos apenas a tecnologia por si só, para identificar alguém, eu diria que 96% das vezes ela iria confundir”, completou, conforme destacou a reportagem do Motherboard.

As observações de Craig foram feitas dias depois que a ACLU (American Civil Liberties Union), uma ONG dos EUA que milita para defender e preservar direitos dos cidadãos do país, apresentou uma queixa ao Conselho de Comissários de Polícia de Detroit, pedindo que se desculpassem publicamente pela prisão de Robert Williams, um cidadão negro que foi preso em janeiro depois de ter sido confundido pelo sistema de reconhecimento facial da polícia.

De acordo com a reclamação, o sistema do Departamento de Detroit identificou erroneamente Williams como um ladrão de lojas que havia roubado relógios um ano e meio antes. Williams foi preso em seu quintal na frente de sua esposa e filhos, mantido durante a noite em uma cadeia da cidade e interrogado no dia seguinte. Foi aí que o caso contra Williams começou a desmoronar. “O investigador parecia confuso, disse ao Sr. Williams que o computador disse que era ele, mas depois reconheceu que ‘o computador deve ter se enganado'”, diz a queixa. No entanto, as acusações não foram imediatamente retiradas.

Williams disse que suas duas filhas ficaram confusas com a situação e quando chegou em casa elas estavam brincando, fingindo ser policiais prendendo pessoas e acusaram o pai de roubar coisas. “Ele teve que explicar a seu empregador e a sua família o que havia acontecido. E ele teve que passar pelo o estigma de ser preso em seu quintal, na frente de sua família, onde vizinhos poderiam observar também”, diz a queixa.

A ACLU acusou o Departamento de Detroit de tentar encobrir o erro recusando-se a divulgar registros públicos relacionados ao incidente, apesar de uma ordem judicial.

“Estudos federais demonstraram que os sistemas de reconhecimento facial confundem as pessoas asiáticas e negras até 100 vezes mais do que as pessoas brancas. Por que as forças de aplicação da lei são permitidas de utilizar tal tecnologia quando obviamente não funciona?” escreveu Williams em um editorial opinativo para o Washington Post na semana passada. “O pior é que, antes de isto acontecer comigo, eu realmente acreditava nessas tecnologias. Eu pensava, o que seria tão terrível se eles não estão invadindo nossa privacidade e tudo o que estão fazendo é usar esta tecnologia para se limitar a um grupo de suspeitos?”

A ACLU disse em uma declaração que os comentários do Chefe de Polícia James Craig sobre seu sistema de reconhecimento facial de Detroit que quase sempre confunde os suspeitos é uma admissão de que a tecnologia não funciona.

“A vigilância do reconhecimento facial é perigosa quando erra e perigosa quando acerta. Uma falsa correspondência pode levar a contatos desnecessários com a polícia, como interrogatórios, prisões ou algo pior. Mesmo que tivesse precisão, a tecnologia pode ser usada pelas autoridades policiais para nos identificar em protestos e outras ocasiões”, disse a ACLU.

DataWorks Plus, a empresa que fornece o sistema de reconhecimento facial à Detroit, disse à Motherboard que não mantém estatísticas sobre a precisão do software e, nas palavras da reportagem, “não instrui especificamente a aplicação da lei sobre como usar o software.”

Na semana passada, a prefeitura de Boston votou de forma unânime pela proibição do uso da tecnologia de reconhecimento facial. O Comissário da Polícia de Boston, William Gross, havia dito que a tecnologia não era confiável. A iniciativa seguiu proibições semelhantes em cidades próximas, incluindo Cambridge, Somerville, e Brookline. San Francisco e Oakland também decretaram proibições na Califórnia este ano.

Democratas do Congresso dos EUA introduziram na semana passada o Facial Recognition and Biometric Technology Moratorium Act (Lei de Reconhecimento Facial e Moratória de Tecnologia Biométrica, em tradução livre) com o objetivo de proibir a tecnologia em nível federal e, ao mesmo tempo, reter subsídios dos departamentos de polícia estaduais e locais que continuam a usá-la.

O senador Ed Markey, o democrata de Massachusetts que introduziu a legislação, disse na ocasião que o reconhecimento facial não representa apenas uma ameaça à privacidade, “ele coloca em perigo físico os negros americanos e outras populações minoritárias.”

“Passei anos lutando contra a proliferação de sistemas de vigilância de reconhecimento facial porque as implicações para nossas liberdades civis são arrepiantes e a carga desproporcional sobre as comunidades de cor é inaceitável”, acrescentou Markey. “Neste momento, a única coisa responsável a fazer é proibir o governo e a aplicação da lei de usar esses mecanismos de vigilância.”