Em 2016, a Microsoft desenvolveu uma base de dados com mais de 10 milhões de imagens de cerca de 100 mil pessoas. Nesta quinta-feira (6), o Financial Times noticiou que a companhia silenciosamente deletou a tal base de dados, batizada de MS Celeb, da internet.
Antes de ser apagada, a MS Celeb era a maior base de dados pública de imagens faciais do mundo. Era era chamada de “Celeb” de propósito para implicar que os rostos do conjunto eram de figuras públicas. Acontece que, de acordo com o Financial Times, muitas pessoas presentes lá não tinham dado permissão para o uso de suas imagens.
Na verdade, suas fotos foram incluídas a partir da raspagens a partir de buscas por imagens e vídeos sob a licença Creative Commons. Sob essa licença, você pode reutilizar fotos para pesquisa acadêmica, por exemplo. E o sujeito na foto não precisa, necessariamente, garantir a licença, uma vez que o dono da imagem já a garante.
No entanto, o Financial Times descobriu que o conjunto continha rostos de cidadãos privados e jornalistas de cibersegurança, incluindo Kim Zetter, Adrien Chen e Julie Brill, ex-Comissária da Comissão Federal de Comércio, entre outros.
“O site era voltado para propósitos acadêmicos”, disse a Microsoft ao Financial Times. “Ele era mantido por um funcionário que não está mais na Microsoft e desde então a página foi removida”.
Infelizmente, não é tão simples assim. O MS Cebeb já foi utilizado por diversas empresas, incluindo a IBM, Panasonic, Alibaba, Nvidia e HItachi.
A ferramenta também foi usada pela Sensetime e Megvii, duas empresas que são fornecedoras de tecnologia para as autoridades chinesas em Xinjiang, onde o reconhecimento facial e a inteligência artificial tem sido usada para rastrear e prender grupos minoritários como os uigures e muçulmanos.
A Sensetime foi avaliada em mais de US$ 4,5 milhões no final de 2018, e seus sistemas SenseTotem e SenseFace são utilizados por diversos departamentos da polícia da China.
A Megvii recentemente levantou US$ 750 milhões em um investimento e sua tecnologia Face++ foi citada em um relatório da Human Rights Watch como uma fornecedora da Plataforma da Junta de Operações Integradas (IJOP, na sigla em inglês) — um aplicativo da polícia utilizada em Xinjiang. O grupo de direitos humanos, no entanto, alterou seu relatório dizendo que o código do Face++ presente no IJOP não foi ativamente utilizado.
Em uma reportagem do New York Times, ambas as companhias negaram saber que seus softwares foram utilizados para identificar minorias na China.
Não está claro se o conjunto de dados do MS Celeb teve um papel importante nas tentativas de identificação racial do programa de Xinjiang, e se teve, não sabemos o quão crítico foi o uso dessa base para o desenvolvimento da tecnologia. No entanto, pesquisadores da MegaPixel argumentar que a Microsoft claramente perdeu o controle sobre quem utilizou sua base de dados. Um gráfico mostra que a China lidera a lista de países que utilizaram o MS Celeb em citações de artigos tanto em 2018 quanto em 2019.
A própria Microsoft expôs sua oposição sobre a utilização de tais tecnologias como uma forma de vigilância governamental. Em uma publicação em dezembro de 2018, a Microsoft pediu para que companhias criem proteções e para que governos comecem a regulamentar a tecnologia de reconhecimento facial.
Nesta publicação, a companhia reconheceu o potencial de abuso do reconhecimento facial por governos. Em abril, a Microsoft supostamente recusou o pedido de uma agência de aplicação da lei da Califórnia para instalar tecnologia de reconhecimento facial nos carros policiais e câmeras acopladas ao corpo dos agentes, já que fazer isso poderia ter um impacto desproporcional sobre mulheres e minorias.
No entanto, as objeções e boas intenções da Microsoft param por aqui. O Financial Times notou que o conjunto de dados MS Celeb continua disponível pata qualquer instituição acadêmica ou empresa que já a baixou, e ela continha sendo compartilhada pelo GitHub, Dropbox e Baidu Cloud. O Gizmodo entrou em contato com a Microsoft solicitando esclarecimentos, mas não nos responderam até o momento desta publicação.