Os sistemas de reconhecimento facial, até agora, provaram ser tendenciosos, injustos, falhos, e extremamente poderosos. Eles têm sido utilizados como ferramenta de vigilância, opressão e autoritarismo. E agora um deles vai monitorar sua bebedeira.
O sistema, chamado “AI Bar”, foi desenvolvido pela empresa britânica de dados DataSparQ, e utiliza o reconhecimento facial para identificar quando alguém se aproxima de um bar, registrando o seu rosto em uma tela de vídeo e adicionando a uma fila. O serviço utiliza uma webcam e uma tela padrão, segundo um comunicado à imprensa divulgado pela companhia.
Ele funciona da seguinte forma: você caminha até o bar. Uma câmera identifica o seu rosto, joga em uma tela de frente para os outros clientes, exibindo um pequeno círculo verde em torno da sua cabeça. Ele adiciona você à fila, também visível na tela, com seu número de chamada e o tempo de espera estimado com base nos pedidos à sua frente e quanto tempo será necessário, em média, para prepará-los.
De acordo com um vídeo promocional do AI Bar, também haverá um ícone próximo ao seu rosto se o sistema sinalizar que você aparenta ter menos de 25 anos, o que vai fazer com que os funcionários do bar verifiquem o seu documento de identidade. E a empresa afirmou no comunicado que outro recurso, chamado “FaceTab”, vai adicionar os rostos das pessoas à uma aba do bar para que apenas aqueles identificados possam adicionar bebidas à conta.
O sistema também memoriza os pedidos de bebidas de alguém, segundo a empresa, e é capaz de lembrar dos rostos por um “curto período de tempo” caso você saia momentaneamente do seu lugar no bar.
A empresa ainda afirma no vídeo que “nenhuma imagem facial é armazenada”, mas diz no comunicado à imprensa que os rostos e informações não são mantidos e são “apagados dentro de 24 horas”, sugerindo que, talvez por um pequeno intervalo de tempo, as informações sejam armazenadas em algum lugar. Nós entramos em contato com a empresa para questionar sobre onde os dados são mantidos e como a empresa garante que eles estão seguros.
Um porta-voz da DataSparQ disse ao Gizmodo por e-mail que o vídeo em tempo real do bar não é armazenado, mas apenas transmitidos internamente. No entanto, eles disseram que uma miniatura da imagem do rosto de alguém exibido no lado direito da tela é armazenada localmente e excluída no final da sessão. “Na maioria dos casos, nós esperamos que isso seja no final da noite”, disse o porta-voz.
O porta-voz disse que essas imagens são enviadas para serviços cognitivos em nuvem do Microsoft Azure em datacenters da Europa para uma API “que responde com identidades e pontuações de similaridade que nos permite gerar a fila”, mas que essas identidades e imagens são apagadas localmente e da nuvem quando a sessão acaba.
Se alguém quiser que suas informações sejam apagada antes do fim de uma sessão, será necessário pedir para um funcionário do bar remover sua imagem e identificação utilizando o aplicativo, disse o porta-voz, e se a pessoa quiser permanecer no bar sem ser vigiado pelo sistema, “ela terá que ficar longe do alcance da câmera”. A empresa diz que pretende ter sinalizações indicando o alcance da câmera, citando uma faixa no chão, “entre nessa zona para entrar na fila IA do bar”, como exemplo.
O porta-voz também disse que a precisão do sistema de reconhecimento facial é de mais de 80%, e caso ele falhe em identificar o mesmo indivíduo duas vezes (talvez ele tenha tirado os óculos de sol em algum momento), o bartender pode utilizar o app para corrigir o erro “para que a máquina aprenda”.
O objetivo da tecnologia é tornar as filas em bares menos infernais e ajudar os estabelecimentos a permanecerem abertos servindo mais bebidas às pessoas (e, em retorno, faturando mais). John Wyllie, diretor administrativo do DataSparQ, disse em um comunicado à imprensa que eles estão planejando lançar o sistema a nível nacional no ano que vem.
Filas são um inferno, de fato, e em bares lotados raramente há algum sistema organizado e justo para determinar quem será atendido primeiro. Mas não há nada tão vergonhoso quanto ver o seu rosto sedento irradiado em uma tela para todos os seus colegas de bar verem.
Minimizar o caos não é algo ruim, mas instalar sistemas de reconhecimento facial em um local de lazer para atingir esse objetivo é apenas substituir um incômodo social aceitável por um clima inquietante e distópico.
Vamos também reconhecer o que isso significa: o primeiro passo para automatizar o atendimento em bares.
E, francamente, sair com seus amigos para se divertir em bares envolve a expectativa de alguma desordem. Embora possa ser um pouco irritante tentar chegar até o bar, isso não é nada em comparação a uma nova realidade sombria de sistemas de vigilância poderosos que atuam como autoridades.