Um aplicativo de reconhecimento facial usado por milhares de órgãos policiais, que tem sido muito criticado nas últimas semanas devido aos métodos de coleta de dados duvidosos de seu criador, contém códigos que sugerem uma série de potenciais recursos desconhecidos, com base em uma versão do aplicativo descoberta pelo Gizmodo.
Os repórteres conseguiram baixar a versão mais recente do aplicativo para Android, comercializada à polícia pela Clearview AI, uma startup sediada em Nova York cuja controversa coleta de cerca de 3 bilhões de fotografias de locais como Facebook, Google e YouTube provocou ameaças legais de grandes empresas de tecnologia e defensores de privacidade no Congresso dos EUA.
O aplicativo, que não permite acesso ao sistema de reconhecimento facial da Clearview sem um login, foi encontrado em um servidor da Amazon acessível ao público. As informações armazenadas nos buckets do S3, como o que contém o aplicativo da Clearview, geralmente são definidas como privadas por padrão. A versão obtida pelo Gizmodo não vem no formato amigável que você pode encontrar na Google Play Store. Em vez disso, é um tipo de arquivo nativo para aplicativos Android, conhecido como APK. Com ele, os repórteres conseguiram baixar o arquivo e instalá-lo em um dispositivo Android.
Embora nem toda a atividade do aplicativo possa ser observada sem uma conta de usuário, os repórteres inspecionaram os dados enviados ao Google Analytics, Crashlytics e App-Measurement, três empresas que registram detalhes básicos sobre qualquer dispositivo móvel que esteja executando o aplicativo e informam à Clearview se o aplicativo está funcionando sem problemas. O aplicativo também concede acesso à API Fine Location do Android, que determina a localização mais precisa possível dos provedores de localização disponíveis, incluindo o Sistema de Posicionamento Global (GPS), além de dados de Wi-Fi e de aparelhos móveis.
Outras partes do código parecem sugerir recursos em desenvolvimento, como referências a uma opção de pesquisa por voz; um recurso no aplicativo que permitiria à polícia tirar fotos de pessoas e analisá-la pelo banco de dados da Clearview; e um “modo de pesquisa particular”, sem descrições adicionais disponíveis através do acesso superficial.
Quando os repórteres tentaram tirar capturas de tela do aplicativo, eles receberam um alerta notificando-os: “As capturas de tela não devem ser compartilhadas. Compartilhe os links dos resultados da pesquisa. Qualquer captura de tela vazada resultará na suspensão da sua conta”.
De acordo com um arquivo, o aplicativo parece incluir um recurso que permite ao usuário pesquisar no banco de dados proprietário da Clearview simplesmente tocando em uma foto carregada. O aplicativo também contém linguagem que incentiva os usuários a enviarem “histórias de sucesso” da Clearview sobre o desempenho do aplicativo. Além disso, inclui o aviso: “Convide seus colegas de trabalho ou outros pesquisadores para a Clearview gratuitamente. Basta pressionar compartilhar abaixo para enviar um link com a conta demo gratuita da Clearview”. Sem um login de acesso, é impossível saber se ou como esses recursos aparentes funcionam.
Outro código dentro do aplicativo identifica a empresa de óculos de realidade aumentada sem nome com a qual a Clearview disse ao New York Times que uma vez planejou fazer parceria através de instruções para instalar um “aplicativo complementar” projetado pela Vuzix, uma empresa de RA (realidade aumentada) e visão computacional que fabrica óculos inteligentes. (Em um comunicado à imprensa este mês, a Vuzix disse que sua integração com outra empresa, a TensorMark, permitirá que os clientes “identifiquem inúmeras imagens faciais e de objetos” armazenadas em bancos de dados em nuvem.)
O CEO da Clearview, Hoan Ton-That, disse em um e-mail ao Gizmodo que o aplicativo complementar é um protótipo e “não é um produto ativo”. A RealWear, outra empresa que fabrica “um computador Android poderoso, totalmente robusto e operado por voz” que é “usado na cabeça”, também é mencionada no aplicativo, embora não esteja claro para que serve.
O aplicativo também contém um script criado pelo Google para digitalizar códigos de barras em carteiras de motoristas. (O arquivo é denominado “Barcode $ DriverLicense.smali”). Quando questionado sobre o recurso, Ton-That respondeu: “Ele não escaneia carteiras de motoristas”. O Gizmodo também perguntou sobre o chamado “modo de pesquisa privada” do aplicativo, mas não obtivemos uma resposta.
Ton-That enfatizou que o aplicativo não pode ser usado sem uma conta Clearview. “Um usuário pode baixar o aplicativo, mas não consegue realizar nenhuma pesquisa sem a devida autorização e credenciais”, disse ele.
Apesar de estar em um bucket do Amazon S3 desprotegido, não há uma versão pública do aplicativo da Clearview, que não está disponível na Google Play Store ou na App Store da Apple, nem no site da Clearview sem um login.
“O aplicativo da Clearview NÃO está disponível ao público”, diz a empresa em seu site. “Embora muitas pessoas nos aconselharam que uma versão pública seria mais lucrativa, rejeitamos a ideia. A Clearview existe para ajudar as autoridades policiais a resolverem os casos mais difíceis, e nossa tecnologia vem com diretrizes e salvaguardas rígidas para garantir que os investigadores o usem apenas para o propósito a que se destinam”.
Na quarta-feira (26), a Clearview revelou ter sofrido uma violação de segurança, incluindo os nomes de seus clientes públicos e privados e o número de vezes que eles realizaram pesquisas em seu banco de dados. No dia seguinte, o BuzzFeed News obteve documentos internos que incluem uma longa lista de clientes, entre eles o FBI, Alfândega e Proteção de Fronteiras, Interpol, além de centenas de departamentos de polícia locais. (O New York Times relatou anteriormente que o FBI e o Departamento de Segurança Nacional estavam testando o produto.)
Além de mais de 2.200 agências policiais, informa o BuzzFeed, o software da Clearview foi vendido para empresas em 27 países, incluindo grandes varejistas dos EUA, como Macy’s, Walmart e Best Buy.
A Clearview respondeu à violação com uma declaração atribuída ao seu advogado, dizendo que a segurança é a “principal prioridade” da empresa, acrescentando: “Infelizmente, as violações fazem parte da vida no século 21”.
Os senadores democratas Ed Markey e Ron Wyden reagiram à resposta, com Markey chamando a declaração de “cômica”. Wyden disse por e-mail que “ignorar a seriedade da situação e dizer que as violações de dados acontecem é um descaso para com os americanos que poderiam ter suas informações divulgadas a hackers sem o seu consentimento ou conhecimento”. A equipe de Wyden já procurou a Clearview para solicitar uma demonstração. No começo, a empresa disse que sim. Mas, até quinta-feira (27), havia remarcado várias vezes.
O comissário da FCC Geoffrey Starks disse que a violação levantou dúvidas sobre se a Clearview poderia ser confiável com uma quantidade tão grande de dados pessoais. Independentemente disso, o reconhecimento facial, ele disse, levanta “sérios problemas de privacidade e liberdades civis, principalmente quando se trata de comunidades de minorias raciais”. “Como podemos confiar em uma empresa com enormes responsabilidades de privacidade quando ela não pode sequer proteger seus próprios dados corporativos”, questionou ele.
Alguns policiais disseram ao Times que o produto da Clearview parecia muito superior aos concorrentes, com um afirmando que seu algoritmo aceita “fotos que não são perfeitas”. O mesmo oficial disse ao jornal que ele tirou fotos de casos antigos através do aplicativo e identificou mais de 30 suspeitos. Mas a confiabilidade do reconhecimento facial é questionada há muito tempo por acadêmicos e por pesquisas públicas sobre as limitações da tecnologia.
Um estudo de 189 sistemas de reconhecimento facial, conduzido por uma filial do Departamento de Comércio dos EUA no ano passado, por exemplo, descobriu que pessoas de ascendência africana e asiática são identificadas erroneamente por software a uma taxa 100 vezes maior que a de brancos. Mulheres e idosos têm maior risco de serem identificados incorretamente, mostraram testes.
Em defesa a uma suspensão do uso da tecnologia de reconhecimento facial pela polícia, a União Americana das Liberdades Civis chamou a atenção no ano passado para o caso de Willie Lynch, um homem negro que foi preso e acusado na Flórida por vender drogas por recomendação de um algoritmo facial. Lynch, um dos vários suspeitos possíveis, foi proibido de contestar o algoritmo no tribunal, apesar da dificuldade da polícia em encontrar uma correspondência entre a foto de Lynch e do suspeito ao utilizar a tecnologia para identificar um culpado.
O sistema, que a ACLU disse estar sendo usado 8.000 vezes por dia, usa estrelas para avaliar a qualidade da correspondência entre fotos. Lynch recebeu apenas uma estrela.
“Inúmeros estudos indicam que o reconhecimento facial é uma tecnologia não confiável, que não identifica com precisão pessoas com tom de pele mais escuro – especialmente mulheres – e, portanto, sabemos que essa tecnologia afetará comunidades negras e pardas de maneiras particularmente perigosas”, Myaisha Hayes, organizador nacional de justiça criminal e tecnologia da MediaJustice, disse na época.
Além disso, há pouca supervisão quando se trata de responsabilizar os 17.000 departamentos de polícia do país por qualquer uso indevido de bancos de dados confidenciais que sugam constantemente fatos – para não mencionar informações errôneas – sobre a vida privada das pessoas. Condutas ilegais não são algo incomum. Em 2016, a Associated Press descobriu relatórios de uso indevido de bancos de dados em todo o país, com policiais acessando regularmente bancos de dados da polícia para obter informações sobre “parceiros românticos, parceiros comerciais, vizinhos, jornalistas e outros por razões que não têm nada a ver com o trabalho policial diário”.
Entre 2013 e 2015, policiais que usaram os bancos de dados da polícia de forma indevida foram demitidos, suspensos ou afastados mais de 325 vezes, segundo a AP. Mais de 250 vezes, os oficiais foram repreendidos, receberam aconselhamento ou punições.
Facebook, Google e Twitter enviaram à Clearview uma “carta de cessar e renunciar” este mês, pedindo à empresa para interromper a coleta dos dados pessoais de seus usuários, que Ton-That da Clearview defendeu comparando sua empresa com o Google. “Você deve se lembrar que isso é usado apenas para investigações após o fato. Este não é um sistema de vigilância 24 horas por dia, 7 dias por semana”, afirmou Ton-That, que argumentou que sua empresa tinha o direito com base na Primeira Emenda de coletar dados que os norte-americanos tornam públicos nas mídias sociais e vender o acesso a eles para fins de aplicação da lei. “A maneira como construímos nosso sistema é pegar apenas as informações publicamente disponíveis e indexá-las dessa maneira”, disse ele.
Alex Joseph, gerente do YouTube, respondeu: “A maioria dos sites deseja ser incluída na pesquisa do Google e damos aos webmasters controle sobre quais informações do site estão incluídas nos resultados da pesquisa, incluindo a opção de não participar. A Clearview coletou secretamente imagens de indivíduos sem seu consentimento, violando as regras que os proíbem explicitamente de fazê-lo”.