Foram muitas novidades no Google I/O, algumas de grande destaque, como as do Android P e as melhorias no aplicativo Google Lens. Mas um recurso específico atraiu mais interesse do público e levantou debates sobre a ética relacionada de inteligências artificiais: o Duplex, funcionalidade do Google Assistente que imita uma pessoa e faz ligações básicas para marcar um horário no cabeleireiro ou reservar uma mesa em algum restaurante.

• Google Assistente vai imitar voz humana para fazer ligações básicas por você
• Google Lens: recurso que reconhece textos de imagens chega ao Brasil ainda em maio

O Google percebeu que, apesar de odiarmos esses tipos de ligações para marcar compromissos, não seria uma boa ideia que humanos interagissem com máquinas sem ter o mínimo conhecimento disso. Por isso, a companhia tratou de enviar um comunicado ao The Verge afirmando que o sistema — que ainda não está pronto — contará com um “aviso incorporado”, independentemente da forma que ele tome e seja lançado no futuro.

Da reportagem:

“Entendemos e valorizamos a discussão sobre o Google Duplex — como dissemos desde o começo, transparência na tecnologia é importante”, disse um porta-voz do Google ao The Verge em um comunicado enviado nesta tarde. “Estamos projetando esse recurso com um aviso incorporado e iremos assegurar que o sistema será identificado apropriadamente. O que mostramos no I/O foi uma demonstração inicial da tecnologia e estamos buscando incorporar as opiniões que recebemos enquanto transformamos isso em um produto.”

Quando Sundar Pichai, CEO do Google, esteve no palco e mostrou o Duplex funcionando ao marcar um horário para cortar o cabelo, não houve menção alguma sobre esse sistema de identificação. Ao contrário: o sistema usa de expressões e sinais vocais para se passar por uma pessoa, realizando pausas e emitindo “hmms”.

Não sabíamos nem se haveria uma voz padrão para a assistente ou se ela incorporaria alguns traços da voz do usuário — muito embora seja necessária uma tecnologia bem poderosa para isso, não é impossível a médio prazo.

O problema ético sobre a identificação de um robô em uma conversa com um humano não passa apenas pelo fato de a pessoa poder se sentir desconfortável ao perceber que não está interagindo com alguém de carne e osso — talvez o desconforto seja um problema com menos relevância nesse momento.

As nossas interações criam uma “rede de respeito público e de confiança”, como escreve Alexis Madrigal na revista Atlantic, citando a urbanista Jane Jacobs. Ao terceirizarmos as nossas interações humanas, podemos caminhar para um futuro mais violento, no qual confiamos ainda menos nas pessoas e na sociedade – nem que seja uma violência estritamente verbal. Stewart Brand, escritor americano que aborda temas sobre o avanço da tecnologia, lembrou no Twitter que “falsificações bem sucedidas de qualquer tipo destroem a confiança. E quando a confiança acaba, o que sobra se torna desumano rapidamente”. Isso sem falar no potencial para trotes, ligações falsas e tratamentos diferentes que empresas podem dar aos robôs.

Em uma reportagem publicada pela Bloomberg, Scott Huffman, executivo do time de desenvolvimento do Google Assistente, disse que, apesar de entender as preocupações, não acha que a voz deveria ser robótica: “As pessoas provavelmente vão desligar”, comentou. E será que isso não vai acontecer quando formos avisados no começo da ligação de que um robô vai falar conosco?

O vice-presidente de engenharia do Google, Yossi Matias, disse à CNET que era “provável” que um aviso fosse incorporado ao recurso. No entanto, ninguém esclareceu por que essas questões não foram abordadas durante a apresentação.

É claro que o Duplex ainda é um experimento, longe de ser um produto finalizado. Além disso, ainda não temos nenhuma previsão para que possamos usá-lo na vida real. Os testes começarão com um número limitado de pessoas ainda neste ano.

E a gente nem começou a falar sobre as possíveis implicações em privacidade e segurança de informação.

Ah, e tem muitas pessoas lembrando dos Pixel Buds, fones de ouvido demonstrados no ano passado que traduziam conversas em tempo real — foram lançados, mas não chegam perto de funcionar tão bem quanto na demonstração de palco. Só não dá para desconsiderar a tecnologia, nem mesmo ignorarmos o fato de que em um futuro próximo os recursos serão encorpados a uma inteligência artificial ainda mais eficiente.

[The Verge]

Imagem do topo: captura de tela por Andrew Liszewski (Google)