Você será vigiado por uma inteligência artificial no metrô de São Paulo

O metrô de São Paulo anunciou na semana passada a abertura de edital de licitação para a implementação de um sistema de “monitoração eletrônica por imagem para as linhas 1-Azul, 2-Verde e 3-Vermelha”.

Em um anúncio no perfil do Twitter, o metrô destaca que o sistema terá reconhecimento facial, identificação e rastreamento de objetos e detecção de invasão de áreas.

O Metrô vai adotar um novo sistema de monitoração eletrônica por câmeras que inclui reconhecimento facial, identificação e rastreamento de objetos e detecção de invasão de áreas. O edital de licitação estará disponível a partir do dia 2/7. Saiba mais: https://t.co/AMfPyHOq5B pic.twitter.com/p8ZHPGc9xL

— Metrô de São Paulo (@metrosp_oficial) 1 de julho de 2019

O edital passou a ficar disponível para as empresas interessadas nesta terça-feira (2) e contempla, além das linhas 1-Azul, 2-Verde e 3-Vermelha, os pátios Jabaquara (Linha 1), Tamanduateí (Linha 2) e Itaquera e Belém (ambos na Linha 3).

• Por que o reconhecimento facial não deveria ser usado pela polícia
• IBM vende sistema de reconhecimento facial para ditaduras, diz reportagem

No comunicado, o metrô afirma que o sistema terá autonomia de 30 dias para o armazenamento das imagens. A Lei Geral de Proteção de Dados, que ainda não está em vigor, diz que os rostos das pessoas são considerados dados sensíveis e devem receber tratamento especial.

O orçamento referencial no edital da licitação é de cerca de R$ 69,5 milhões – a maior parte (R$ 49,3 milhões) está alocada nos custos com equipamentos, softwares e materiais de instalação. Em projetos como esse, a expectativa é que a oferta das empresas interessadas fique abaixo do orçamento referencial.

O anúncio do projeto no Twitter teve reação imediata de usuários, muitos deles levantando preocupações de privacidade.

Não é para menos. A tecnologia de reconhecimento facial com inteligência artificial é alvo de inúmeros questionamentos. Porém, para alguns políticos, elas são a solução mágica da segurança pública – ou do controle social.

O que não parece entrar no radar de alguns atores que defendem a tecnologia é que ela é comprovadamente racista, além de levarem a conclusões precipitadas e muitos falsos positivos.

No Brasil, sistemas similares estão sendo testados em Campinas, Salvador e Rio de Janeiro. Na Bahia, um homem procurado por homícidio foi preso após ser identificado pelo reconhecimento facial.

Esse tipo de tecnologia foi testada no Reino Unido e, em 2017, na final da UEFA Champions League, o sistema de vigilância identificou 2.470 possíveis criminosos no meio da multidão. Destes, só 173 foram corretamente identificados – índice de erro de 92%. A tecnologia transforma pessoas inocentes em suspeitos, sem que essas pessoas saibam, até que a polícia possam averiguar suas situações.

Em Hong Kong, manifestantes contra o projeto de lei de extradição utilizaram de um arsenal de alternativas para fugir da vigilância do Estado. Para evitar sistemas de reconhecimento facial, eles usaram máscaras e óculos protetores; passaram ainda a utilizar dinheiro e evitar aplicativos como WeChat, Alipay e Taobao.

Numa iniciativa que teve grande repercussão nas redes sociais, muitos manifestantes deixaram de usar seus cartões de transportes (equivalente ao bilhete único) e passaram a comprar as passagens para fugir do rastro que poderiam deixar – a polícia local já usou esses cartões para localizar suspeitos e muitos estavam preocupados em possíveis repressões futuras.

Nesse sentido, vale lembrar que a prefeitura de São Paulo mudou drasticamente as regras do Bilhete Único e passou a exigir o cadastro dos usuários – quem tem o Bilhete anônimo só pode recarregar uma quantia limitada por mês. Em 2017, apontamos aqui que os dados pessoais estavam virando moeda de troca nas privatizações no Rio e em São Paulo.

Nos Estados Unidos, por outro lado, cidades estão discutindo a proibição definitiva de sistema de reconhecimento facial. São Francisco aprovou no mês passado uma lei que impede que a polícia e agências governamentais utilizem a tecnologia. Já a maior fabricante de câmeras policiais anunciou que irá banir a tecnologia de reconhecimento facial por questões éticas.

Enquanto sistemas de vigilância não puderem ser auditados e regulamentados de forma transparente e por atores independentes, existe um risco real de que fiquemos na mão do Estado e que alguns grupos sofram repressões mais intensas.

Empresa demonstra tecnologia de reconhecimento facial durante a CES Asia 2019. Créditos: Alessandro Feitosa Jr/Gizmodo Brasil

A China já utiliza o reconhecimento facial para encontrar e prender suspeitos e, recentemente, uma pessoa foi presa após ser identificada por uma inteligência artificial em uma multidão de 60 mil pessoas. O país é conhecido por seu rígido controle social e implementou há pouco tempo um sistema de pontuação social, que mantém um placar de suas atividades cotidianas, punindo-o ou recompensando-o por determinadas atitudes. Reportagens denunciam que o governo chinês tem reprimido a minoria muçulmana uigure. Este documentário revela o poder de vigilância do país.

Em abril, aconteceu uma audiência pública na Comissão de Ciência, Tecnologia, Comunicação e Informática da Câmara dos Deputados para debater o uso dessa tecnologia. Pelo jeito, alguns políticos não prestaram atenção.