Quando a Apple apresentou seu novo sistema de reconhecimento facial para desbloquear o smartphone, o Face ID, em setembro, enfrentou algumas questões sobre como a empresa iria evitar problemas de segurança e enviesamento que já tinham acontecido em sistemas de reconhecimento facial similares. O senador de Minnesota Al Franken foi uma das muitas pessoas que estavam curiosas para saber como exatamente a Apple iria assegurar o sucesso do Face ID. Nesta semana, a Apple respondeu a uma série de perguntas que haviam sido enviadas pelo gabinete de Franken no dia seguinte ao anúncio do sistema.

• Novos rumores especulam escassez do iPhone X e atraso no lançamento
• Reconhecimento facial do iPhone X pode estar a caminho dos próximos iPads Pro

Os primeiros sistemas de reconhecimento facial da HP e Google falhavam em reconhecer pessoas com peles escuras. Em 2009, uma webcam da HP falhou na hora de registrar pessoas negras. E em 2015, o reconhecimento facial do Google Fotos categorizou pessoas negras como gorilas. Se o Face ID cometer erros similares, pode ser um sinal de que a Apple não treinou o sistema para reconhecer os rostos de forma diversificada.

Embora Franken tenha levantado muitas questões sobre a privacidade e a segurança do Face ID, a maioria delas foi respondida no artigo técnico da Apple. No entanto, Franken também questionou sobre o enviesamento do algoritmo, escrevendo: “Quais passos a Apple tomou para assegurar que o sistema foi treinado em uma amostragem diversificada de rostos, em termos de raça, gênero e idade? Como a Apple está protegendo o viés racial, de gênero e de idade no Face ID?”

Nesta segunda-feira (16), a vice-presidente de políticas públicas da Apple nas Américas, Cynthia Hogan, deu algumas respostas:

A acessibilidade do produto a pessoas de diversas raças e etnias foi muito importante para nós. O Face ID utiliza redes neurais de combinação facial que desenvolvemos utilizando mais de um bilhão de imagens, incluindo infravermelho e imagens com profundidade coletadas em estudos conduzidos com o consentimento informado dos participantes. Trabalhamos com os participantes de todo o mundo para incluir um grupo representativo de pessoas levando em consideração o gênero, idade, etnia e outros fatores. Ampliamos os estudos conforme o necessário para oferecer um maior grau de precisão para um leque diverso de usuários. Além disso, uma rede neural que é treinada para detectar e resistir a tentativas de desbloquear seu telefone com fotos ou máscaras.

A resposta da Apple à questão do enviesamento é bem promissora. O ponto que Hogan coloca sobre o consentimento é chave – pesquisadores já enfrentaram reações negativas por utilizarem fotos de pessoas transsexuais sem permissão para treinar redes neurais. Mas teremos que esperar para ver o quão bem o Face ID funcionará no iPhone X quando ele chegar às mãos dos consumidores.

“Valorizo a boa vontade da Apple a se engajar com o meu gabinete sobre esses problemas e estou feliz de ver os passos que a companhia deu para levar em conta a privacidade dos usuários e as preocupações com segurança”, disse Franken em um comunicado. “Planejo acompanhar a Apple para descobrir mais sobre como a empresa pretende proteger os dados dos consumidores que decidirem utilizar a tecnologia de reconhecimento facial da última geração do iPhone.”

Imagem do topo: Apple