UNESCO pede para empresas mudarem as respostas de assistentes virtuais a frases de assédio

“Inteligência artificial é um reflexo do comportamento humano”. É com base nesse argumento que a UNESCO (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) está lançando uma campanha importante e necessária para chamar a atenção sobre a cultura de assédio direcionada às assistentes virtuais.

Talvez, você esteja se perguntando qual é o sentido de uma organização dedicada à defesa de direitos humanos estar preocupada com assistentes digitais. Mas considerando que a tecnologia foi desenvolvida por e para seres humanos, a forma como elas funcionam e interagem conosco diz muito sobre nós mesmos.

• Exército dos EUA teme preconceitos contra soldados ciborgues por causa de filmes como “O Exterminador do Futuro”
• Como um algoritmo médico nos EUA era preconceituoso com pacientes negros

O relatório entitulado “I’d blush if I could” (ou, “Ficaria Corada se Pudesse”, em tradução livre) é uma referência à resposta dada pela Siri ao ser verbalmente assediada, e mostra os altos índices de preconceito de gênero sofrido pelas assistentes virtuais. A questão levantada pela UNESCO é que respostas como essa da Siri são problemáticas ao indicar uma certa submissão em relação a comportamentos abusivos, o que pode dar a impressão aos agressores de que tais atitudes são aceitáveis.

Por isso, foi criado o movimento Hey Update My Voice (Hey, Atualize Minha Voz) em parceria com a UNESCO como um apelo às empresas para atualizarem as respostas de suas assistentes. No site do campanha, é possível gravar mensagens de voz de até 15 segundos sugerindo respostas para as assistentes virtuais aos assédios que sofrem. A partir disso, a UNESCO espera que as empresas participem do movimento e considerem as ideias enviadas para atualizarem suas tecnologias.

A discussão sobre as frases passivas e tolerantes fornecidas por inteligências artificiais não é de hoje, e muitas companhias já se mobilizaram para lidar com essas questões. No entanto, apesar de a Siri agora ter respostas mais neutras e frias, o problema ainda está longe de ser resolvido.

De Lu à Alexa, o problema do assédio às assistentes virtuais

Os problemas de preconceito de gênero relacionados à inteligência artificial se originam já na concepção da tecnologia. As equipes responsáveis por desenvolvê-las são compostas majoritariamente por homens. O resultado é que essa noção de mundo masculina se reflete no produto final.

Assim, o que temos hoje são assistentes virtuais em sua maioria com vozes femininas, reforçando a ideia de uma mulher disposta a servir sem contestar. A situação se agrava quando, diante de uma agressão verbal, ela responde com frases “tolerantes, subservientes e passivas”, conforme descreve a UNESCO.

Aqui no Brasil, a Lu, assistente das Lojas Magazine Luiza, já teve inclusive que se manifestar sobre os casos de assédio direcionado a ela nos comentários de suas publicações. “Gente, tô chateada com algumas cantadas pesadas que ando recebendo aqui nos comentários. E olha que eu sou virtual! Fico imaginando as mulheres reais que passam por isso todos os dias!”, dizia o post.

De fato, a UNESCO aponta alguns números alarmantes. No mundo, cerca de 73% das mulheres já sofreram algum assédio online, sendo que 15 milhões de adolescentes entre 15 e 19 anos já sofreram abuso sexual. No Brasil, especificamente, 97% das mulheres brasileiras afirmam ter sofrido assédio em transportes públicos e privados.

Diante desses dados, fica claro que ainda há muito a ser feito e o que menos precisamos agora são tecnologias que, de alguma forma, prejudicam a luta das mulheres e seu constante trabalho de conscientização ao longo dos anos.