Qual a pior coisa que poderia acontecer com enormes bancos de dados de reconhecimento facial?

O uso comum da tecnologia de reconhecimento facial está se aproximando. Um novo iPhone está logo aí, e ele pode até mesmo não vir com um leitor de impressão digital — você poderia, em vez disso, desbloquear seu telefone com seu rosto.

O reconhecimento facial não é novo. Ele tem sido comum na ficção científica há décadas, e suas raízes práticas vêm da década de 1960, com pesquisadores de Palo Alto usando RAND Tablets para mapear manualmente as feições das pessoas. Mesmo naquela época, poderíamos fornecer a um computador dados suficientes para ele ser capaz de identificar uma pessoa com base em sua fotografia. O grupo, liderado por Woodrow William Bledsoe, ainda conseguia calcular uma compensação por qualquer inclinação, rotação e escala da cabeça em uma fotografia.

Eigenfaces do AT & T Laboratories Cambridge

A inserção de dados continuou bem rudimentar, com o envio manual de dados sendo substituído pelos Eigenfaces nos anos 1980 e 1990. Este seria o início dos sistemas computacionais de visão incentivando o incrível poder da big data.

A nossa capacidade cada vez maior de processar enormes quantidades de informações impulsiona os avanços que temos visto nos últimos anos. Hoje, o reconhecimento facial tem ido de desbloquear celulares até o rastreamento de criminosos. Câmeras em um festival de cerveja em Qingdao, na China, pegaram 25 supostos infratores em menos de um segundo. Esse tipo de eficiência garante que a tecnologia possa ir para o mainstream. Provavelmente faz sentido parar um pouco e perguntar: onde isso pode dar errado?

No início deste mês, surgiram relatos de que a funcionalidade do reconhecimento facial do Samsung Note 8 poderia ser enganada por fotos do rosto da pessoa. Felizmente, a Apple é menos enganável. O que pode acontecer quando combinamos a grande quantidade de dados biométricos faciais com um sistema potencialmente imperfeito? Que tipo de implicações sociais teríamos se você pudesse ser reconhecido por alguém, em qualquer e em todos os lugares que você vai? Para o Giz Asks dessa semana, entramos em contato com especialistas em direito, tecnologia e reconhecimento facial para descobrir.

Joseph Lorenzo Hall

Tecnólogo chefe do Centro Para Tecnologia e Democracia em Washington DC

Como todas as biometrias, feições faciais não são secretas e não podem ser facilmente alteradas. Entusiastas da privacidade não podem se proteger, por exemplo, cobrindo seu rosto (na maioria das culturas). Isso significa que a biometria não é um fator de autenticação completo, já que ela é muitas vezes fácil de capturar e burlar (mesmo as impressões digitais para o desbloqueio do telefone têm que ficar por trás de algum segredo, como uma senha). Então, se esses sistemas não incluem outras verificações, é concebível que uma imagem decente do rosto de alguém possa ser usada para obter acesso não autorizado.

É muito fácil de identificar padrões faciais a partir de dados públicos, e certamente ainda vamos ver sistemas que permitem a apresentação de um padrão facial por meio de uma API para obter detalhes básicos e então um negociante de dados à la carte (existem esses hoje em dia para identificadores como email) . Eu não ficaria surpreso de ver serviços de dark web no futuro oferecerem detalhes sobre pessoas com base em padrões faciais (imagine se um criminoso está checando um local para assaltar… Eles provavelmente gostariam de dados que indicariam que o guarda tem uma hipoteca em sua casa e seria mais suscetível de influenciar, além do mais o padrão facial seria muito fácil de ser capturado remotamente).

O que as empresas de tecnologia podem fazer antes de implementar biometria facial?

Depende da aplicação. Se eles simplesmente querem medir o tráfego em uma loja ou a demografia de uma audiência, eles não precisam de identificação de características faciais. Se eles estão usando para desbloqueio biométrico ou autenticação, eles devem armazenar o padrão facial em um formato seguro (assim como nós não armazenamos senhas, mas pedaços de senhas, nunca dados biométricos crus devem ser armazenados e/ou transmitidos). Idealmente, alguém poderia apenas não usar esse recurso.

Woodrow Hartzog

Professor de Direito e Ciência da Computação na Universidade Northeastern

Resumindo, a biometria facial é perigosa porque existem poucas regras que regulam sua captação, utilização e divulgação, mesmo que esses dados sejam capazes de causar danos reais. As impressões faciais, que são os mapas que impulsionam as tecnologias de reconhecimento facial, só são especificamente abordadas em algumas leis e regimes regulamentares. Algumas cidades e estados têm restringido quando a biometria facial pode ser captada e utilizada. Mas, de modo geral, a menos que uma dessas regras limitadas e específicas restrinja a indústria e o governo da implantação de sistemas biométricos faciais, ela é, em grande parte, livre de controle. Imagens de nossos rostos podem ser captadas, armazenadas e comparadas com um banco de dados de impressões faciais, que têm tido cada vez mais uso.

Grande parte do risco da biometria vem da forma como ela é implementada e do design das tecnologias que a utilizam. Por exemplo, será que as impressões faciais são armazenadas localmente e a autenticação pode acontecer sem ter que acessar um local remoto usando a internet? Ou elas são armazenados em um banco de dados centralizado? Se for assim, quais são as garantias técnicas, administrativas e físicas para esses bancos de dados?

Se um banco de dados de impressões faciais for comprometido, isso teria um efeito cascata sobre sistemas de autenticação que utilizam as impressões faciais, assim como, eventualmente, permitiria que terceiros não autorizados façam uso da impressão facial para o rastreamento. Nós já vimos alguns exemplos de software de reconhecimento facial sendo usado como uma ferramenta de perseguição. Pessoas, governos e indústrias podem ficar tentados a vasculhar os feeds de redes sociais e bancos de dados de fotos usando impressões faciais hackeadas para localizar pessoas de uma forma muito mais eficiente e perigosa.

Christopher Dore

Sócio da Edelson PC, firma de advocacia em Chicago em que ele concentra sua prática em tecnologia e questões de privacidade

O Facebook tem o maior banco de dados de reconhecimento do mundo, ponto. Talvez a NSA tenha mais. Talvez não tenham no momento. Mas quando você tem uma situação em que uma empresa está mantendo um banco de dados desse tipo, há uma série de preocupações que surgem. O que eles vão fazer com ele? Agora, o Facebook aparentemente está usando isso para algo bastante inócuo, que é a sugestão de marcação de pessoas. Mas eles detêm um recurso enorme e poderiam começar a usá-lo para outros produtos.

Se uma empresa tem essa quantidade enorme de dados de reconhecimento facial, eles podem ir para uma cadeia de varejo e dizer: “Ei, nós podemos abastecer seu sistema de vigilância de segurança com nosso banco de dados de reconhecimento facial, e você terá uma noção inacreditável de quem está chegando em sua loja”. Em a nível de serviço, isso é assustador, mas talvez seja apenas usado para fins de marketing. Porém, isso pode chegar a um ponto ainda mais nefasto. Você sabia que existem várias empresas online que guardam fotos de presos?

Você poderia obter um banco de dados de um deles e começar a usar isso para dizer que você está procurando criminosos, mas essas fotos são apenas de pessoas que foram presas. Elas podem não ter sido condenadas por coisa alguma.

Eu vou um pouco além com isso: o reconhecimento tem ficado muito bom. Mas não é perfeito, e os casos em que costuma ser pior é quando está lidando com minorias. Os afro-americanos têm mais dificuldade de serem identificados precisamente. Quando você pegar o que eu disse sobre bancos de dados e fotos de presos e todos os dados sendo colocados juntos, você tem um risco muito alto de má identificação e discriminação contra as pessoas.

Lee Tien

Procurador Sênior e Presidente da Cadeira Adams para os Direitos da Internet da Fundação Electronic Frontier

Nem todos os dados biométricos são iguais. Se você quiser tirar a minha impressão digital, você tem que me fazer tocar um objeto. Se você quiser fazer um escaneamento de íris, você provavelmente terá que ficar muito perto de mim para fazer isso. O reconhecimento facial funciona a certa distância. Uma das coisas que vêm com a biometria facial é que é remotamente capturável, e é capturável sem o seu consentimento. Eu poderia usar óculos ou não, mudar a cor do meu cabelo, mas o formato do meu rosto, o formato das minhas orelhas, essas coisas são bastante padrão. E eu não vou mudá-las.

Pense em protestos. Nós vimos com os comícios pró-Trump e os comícios anti-Trump uma espécie de versão criada pelo público de reconhecimento facial. A versão humana. Ah, essas pessoas estavam lá na manifestação, e tiramos fotos deles e agora estamos postando fotos tentando descobrir quem eles eram.

Um dos grandes problemas do qual nos tornamos mais conscientes nos últimos anos é que existem preconceitos raciais, a disparidade racial na precisão das bases de dados de reconhecimento de rosto. No final das contas, o que você está fazendo é chegar com um software baseado em uma maneira informatizada de dizer que essas duas imagens são provavelmente da mesma pessoa. A capacidade de identificar os negros é diferente da capacidade de identificar pessoas brancas, e nós acreditamos que é principalmente uma questão dos dados de treinamento que estão sendo usados por empresas de reconhecimento facial.

Não há dúvida de que a biometria é conveniente do ponto de vista de segurança, porque você não consegue esquecer o seu corpo. Por outro lado, não é bom para fins de segurança usar atributos que são públicos. Se você me verificar com o nome de solteira da minha mãe, e o nome do meio da minha mãe está em muitos bancos de dados, isso não parece um bom jeito de me manter seguro. A biometria tem esse tipo de problema.