A tecnologia de reconhecimento facial pode ter como alvo populações inteiras de um grupo demográfico específico e, nas mãos erradas, pode ser usada como uma ferramenta poderosa para a discriminação. Na China, isso não é uma ficção distópica. Isso já está acontecendo.

De acordo com uma matéria do New York Times publicada no domingo (14), o governo chinês está usando um sistema de reconhecimento facial para rastrear os uigures, a minoria muçulmana do país. A tecnologia teria como alvo essa população com base em sua aparência física.

De acordo com documentos de compras governamentais obtidos pelo Times, desde o ano passado, quase duas dúzias de departamentos de polícia na China procuraram tecnologias que pudessem identificar e rastrear indivíduos uigures. Os documentos supostamente indicam que o interesse por esse tipo de tecnologia cresceu nos últimos dois anos. Em Yongzhou, por exemplo, a polícia queria um software que pudesse “caracterizar e pesquisar se alguém é ou não um uigur”.

A tecnologia estaria sendo implantada em todo o país, inclusive em Hangzhou, Wenzhou, Fujian e Sanmenxia. Em Sanmenxia, ​​a polícia teria identificado 500 mil habitantes uigures em apenas um mês. O sistema está em funcionamento desde fevereiro ano. O banco de dados para este sistema de reconhecimento facial incluiria tags para “rec_gender”, “rec_sunglasses” e “rec_uygur”. A última tag foi feita para indicar se uma câmera identificou um uigur, o que supostamente teria acontecido 2.834 vezes e acrescentado ao banco imagens com essa entrada.

Na China, a população uigur é tratada com suspeita e opressão pelo Partido Comunista. Além disso, é fortemente vigiada pelas autoridades. Muitos uigures desapareceram nos campos de concentração. No ano passado, observatórios estimaram que até um milhão de pessoas poderiam estar encarceradas nessas prisões especialmente projetadas.

“Não acho que seja exagero tratar isso como uma ameaça existencial à democracia”, Jonathan Frankle, pesquisador de inteligência artificial do MIT, disse ao New York Times. “Uma vez que um país adota um sistema desses de modo tão pesado e autoritário, ele está usando dados para reforçar o pensamento e as regras de uma forma muito mais profunda do que seria possível há 70 anos na União Soviética. Nesta medida, esta é uma crise urgente, e nós estamos vagarosamente caminhando em direção a ela.”

O uso de ferramentas de vigilância generalizadas está longe de ser incomum na China. As autoridades do país já monitoram a localização dos veículos de energia alternativa, o humor dos estudantes em sala de aula e as pontuações de “crédito social” dos cidadãos. São quase 200 milhões de câmeras de vigilância no país, e isso é só parte do que elas fazem.

No ano passado, policiais no país literalmente usavam sistemas de reconhecimento facial em seus olhos, na forma de óculos inteligentes. O objetivo declarado era identificar fugitivos, mas os céticos acreditavam que eles seriam usados ​​indevidamente para atingir ativistas e minorias.

Esta também não é a primeira vez que a China usa tecnologia de reconhecimento facial para acompanhar a população uigure. No início do ano passado, um relatório revelou que a polícia de Xinjiang usava software para rastrear os muçulmanos na região desde 2017 e que ela era notificada sempre que um indivíduo que correspondesse a essa descrição estivesse localizado a mais de 300 metros de casa ou do trabalho, informou o Independent.

A matéria publicada no domingo pelo Times revela que as autoridades estão se tornando cada vez mais confortáveis com o uso dessa tecnologia para fazer o perfil racial dos indivíduos. A questão deixou de ser tratada como um erro em uma tecnologia de uso dissimulado.

Cada vez mais, policiais buscam sistemas de reconhecimento facial que visam abertamente a minoria étnica do país. É uma normalização perturbadora de uma tecnologia que sempre ofereceu possibilidades preocupantes.

“Um sistema como esse obviamente serve muito bem para o controle de pessoas”, disse o especialista em segurança Jim Harper, vice-presidente executivo do Competitive Enterprise Institute, ao Independent. “’Documentos, por favor’ era o símbolo de viver sob tirania no passado. Agora, os funcionários do governo não precisam nem pedir.”

[New York Times]