Imagine estar andando na rua, alguém tirar uma foto sua e, com essa imagem, ela ser capaz de visualizar uma série de informações sobre você com base em sua atividade online – isso incluiria os seus perfis nas redes sociais, os locais que frequenta, as pessoas que conhece, entre outros. Um cenário como esse pode parecer assustador, mas ainda mais aterrorizante é o fato de isso já ser realidade.

Uma reportagem do New York Times revelou que uma pequena startup chamada Clearview AI vem oferecendo serviços de reconhecimento facial como esse para autoridades e empresas há um tempo. Fundada pelo australiano Hoan Ton-That, a empresa tem ajudado desde policiais da Flórida até o FBI a solucionar casos de furtos de lojas, roubo de identidade, fraudes em cartões de crédito, assassinatos e exploração sexual infantil.

Segundo o NYT, o sistema da Clearview conta com uma base de dados de mais de três bilhões de imagens supostamente coletadas do Facebook, YouTube, Venmo e outros sites. Além disso, o código do aplicativo inclui uma linguagem de programação que pode ser combinada com óculos de realidade aumentada. Ou seja, os usuários de um dispositivo com essa ferramenta poderiam traçar o perfil completo de qualquer pessoa que vissem.

Cerca de 600 agências relacionadas à aplicação de leis começaram a utilizar o Clearview no ano passado, segundo a própria empresa – embora ela tenha se recusado a fornecer uma lista com os nomes. As autoridades federais e estatais informaram ao jornal norte-americano que não tinham muito conhecimento sobre como a ferramenta funciona nem sobre quem está por trás dela.

Como a Clearview se popularizou entre as autoridades

O fundador da empresa, Hoan Ton-That é um australiano, de ascendência vietnamita, que se mudou para San Francisco em 2007 depois de largar a faculdade. Sua primeira criação foi um site em 2009 que permitia que as pessoas compartilhassem links de vídeos com todos os seus contatos por mensagem, mas Ton-That acabou excluindo após a ferramenta ganhar a fama de ser um “golpe de phishing”. Em 2015, ele criou um programa que permitia modificar uma imagem colocando uma “peruca” de Donald Trump nas pessoas da foto. Também não fez muito sucesso.

Foi em 2016 que Ton-That se mudou para Nova York, conheceu Richard Schwartz (que ajudou Rudolph Giuliani no período em que ele foi prefeito de Nova York) e os dois decidiram se dedicar ao reconhecimento facial. O projeto ainda recebeu apoio financeiro de Peter Thiel, o primeiro investidor do Facebook e membro do conselho da empresa.

Com sua equipe, Ton-That começou a trabalhar em um programa capaz de coletar automaticamente imagens de pessoas em diversos sites, de redes sociais a sites de emprego e notícias. Segundo o NYT, representantes dessas companhias afirmaram que suas políticas proíbem a coleta de informações como essa.

Em seguida, Ton-That contratou um outro engenheiro para desenvolver um sistema capaz de converter as imagens coletadas em fórmulas matemáticas com base na geometria facial. Assim, a Clearview AI começou a criar um extenso diretório capaz de analisar e combinar esses vetores, fornecendo links para a fonte das imagens.

O primeiro cliente da Clearview foi a Polícia do Estado de Indiana. O NYT relata que dois homens haviam se envolvido em uma briga que terminou com um deles levando um tiro. Uma pessoa que estava no local gravou a cena com o celular, que foi utilizada para os policiais testarem o aplicativo da empresa. Dentro de 20 minutos o caso havia sido resolvido. Como o homem não tinha nenhuma passagem pela polícia e não possuía carteira de motorista, ele não estava na base de dados do governo, o que tornaria quase impossível identificá-lo sem a Clearview AI, de acordo com a polícia.

A partir de então, por meio dos contatos de Schwartz, a ferramenta foi ganhando popularidade entre agentes do governo. A empresa oferecia testes gratuitos e licenças anuais custando apenas US$ 2 mil. De acordo com a Clearview, autoridades do Canadá, além do FBI e do Departamento de Segurança Interna dos EUA, estão testando o serviço atualmente.

Por que a Clearview não serve apenas a uma boa causa

Em seu site, a Clearview AI diz ser uma “tecnologia para ajudar a solucionar os crimes mais difíceis”. No entanto, os problemas e riscos envolvidos no uso de uma ferramenta como essa são inúmeros. Primeiramente, ela pode funcionar como uma arma de vigilância desejada por muitos governos, sendo capaz de não apenas reconhecer manifestantes em um protesto, mas também de levantar uma série de informações sobre eles.

O segundo ponto é que, por mais que os agentes da lei afirmem que a ferramenta está sendo utilizada para uma boa causa, nada garante que ela não seja usada – por outras pessoas ou pelas próprias autoridades – para outros fins. Não seria a primeira vez, por exemplo, que um policial se aproveita das ferramentas a seu dispor para interesses pessoais.

Outro problema grave é que nada garante a precisão da Clearview em identificar corretamente as pessoas. Considerando que ela já está sendo utilizada por um número elevado de autoridades, há uma chance real de uma pessoa inocente ser acusada injustamente devido a uma análise falha do sistema. Aliás, já tivemos casos aqui no Brasil de uma mulher que foi presa erroneamente após ter sido detectada por um sistema de reconhecimento facial.

A empresa norte-americana alega que a taxa de precisão do sistema é de 75% e, aparentemente, ele é capaz de identificar até mesmo imagens em que a pessoa está com partes do rosto ocultas – usando chapéu ou óculos de sol, por exemplo. No entanto, ainda não foi feita nenhuma avaliação externa para provar a credibilidade da ferramenta.

O Facebook diz que essa coleta de informações viola os termos de serviço da rede social e que vai avaliar o caso. No entanto, vale lembrar que Peter Thiel, investidor da Clearview, faz parte do conselho do Facebook, o que pode afetar um futuro posicionamento da companhia.

A reportagem do NYT ainda afirma que a ferramenta mantém em sua base de dados todas as fotos de pessoas (sejam elas culpadas ou apenas suspeitas) enviadas pela polícia e que a ferramenta ainda consegue manipular os resultados de buscas vistos pelas autoridades.

Ton-That defendeu que as pessoas podem alterar suas configurações de privacidade no Facebook para que suas informações não sejam coletadas, já que o sistema acessa apenas as imagens disponíveis publicamente. O problema é que, se suas fotos já tiverem sido coletadas, elas permanecerão na base de dados da Clearview – mesmo que você apague elas do seu perfil. Segundo Ton-That, a empresa pretende lançar um recurso que permite que as pessoas solicitem que suas imagens sejam removidas do sistema caso tenham sido apagadas do local de origem.

Por mais que uma opção como essa seja mais do que necessária, isso está longe de abordar todas as preocupações de vigilância e privacidade atreladas a uma ferramenta de reconhecimento facial que já está sendo utilizada, sem qualquer escrúpulos, pelas autoridades. Além disso, conforme observa o NYT, este pode ser apenas um sinal verde para que outras empresas comecem a criar sistemas semelhantes em breve.

[The New York Times]