O Google em breve terá um recurso que permite que seu telefone imite pessoas — porque a inteligência artificial voltada para os consumidores já não é assustadora o bastante. Chamado de Duplex, ele é feito para tornar as vidas das pessoas mais fáceis, lidando com chamadas que são necessárias, mas não especialmente pessoais.

• Google Assistente ganha atualizações, e você poderá conversar com ele
• Google quer te ajudar a ser menos viciado em smartphone

Em exemplos mostrados pela empresa no palco durante o keynote do I/O, o Google Assistente ligou para um cabeleireiro para marcar um horário e também para um restaurante, para conseguir informações sobre uma reserva, usando uma voz que soa um pouco menos robótica do que a padrão do assistente virtual (não ficou claro se essa voz é a do usuário ou uma padrão do Google Duplex). E, claro, isso é bem maneiro. Intelectualmente falando, fiquei muito impressionada com essa tecnologia! Uma voz capaz de contatar seres humanos e fingir ser um deles razoavelmente bem, incluindo uso de palavras para preencher a conversa, com “hum”, é um feito notável de engenharia de IA.

Ele é completamente assustador. Para os fãs de ficção científica, é aterrorizante porque isso nos deixa um passo mais perto do tipo de IA que colocamos em robôs que escravizamos e que, uma hora, se rebelam contra a gente, porque a escravidão de inteligências digitais é moralmente repugnante. Tem até uma série muito popular na HBO agora que vai fundo nos motivos pelos quais criar imitações perfeitas de humanos é uma ideia muito ruim (e se Westworld não faz seu tipo, você pode ver o último programa do criador da série sobre os perigos da IA, Persons of Interest, ou a excelente série da AMC Humans).

Captura de tela: Andrew Liszewski (Google)

O terror futuro deste projeto tem a ver com como ele poderia ser usado para diluir ainda mais nossa privacidade e segurança. O Google tem acesso a muitas informações suas. Ele sabe tudo que você acessa no Chrome, os lugares que você vai, pelo Maps. E se você tem um dispositivo Android, ele sabe para quem você liga. Se você usa o Gmail, ele sabe o quão regularmente você ignora emails de corrente que sua mãe te envia. Dar a uma inteligência artificial que finge ser humana acesso a toda essa informação deveria aterrorizá-lo.

Alguém mal-intencionado poderia potencialmente tirar informações do assistente Duplex em uma chamada. Ou usar o Duplex para fingir ser você, fazendo ligações e reservas em seu nome. Além disso, ela é uma IA que SABE TUDO DA SUA VIDA. Sabe aquele sentimento vagamente incômodo que você tem ao conversar com AIM Bots? O Duplex leva isso além e te aproxima de um precipício que parece muito com o filme Her, de Spike Jonze.

Mas talvez o mais assustador disso seja que o Google simplesmente se recusa a reconhecer que está em rota de colisão com uma distopia de ficção científica. Enquanto rola a conferência IO em Mountain View, a Microsoft está encerrando seu próprio evento para desenvolvedores, o Build, em Seattle. No primeiro dia de keynote, o CEO Satya Nadella deu um tempo depois de se gabar de não estar no noticiário por falhas de privacidade e segurança, afirmando que empresas grandes abraçando a IA têm uma responsabilidade moral de considerar a ética na inteligência artificial. Nadella e o palestrante principal do segundo dia, Joe Belfiore, fizeram alusão ao uso de IA do Facebook, que ajudou a atrapalhar a eleição de 2016 nos Estados Unidos.

Claro, a Microsoft estava basicamente tratando de forma protocolar questões de privacidade e segurança depois do escândalo envolvendo o Facebook, mas isso já é mais do que já ouvimos o Google falar até agora. Seria bem legal ouvir sobre o Duplex depois de a empresa garantir a mim e a todos os usuários de Google que está levando em conta a privacidade, a segurança e as implicações éticas da IA. Em vez disso, a companhia pareceu contente em tratar inteligência artificial como só mais um recurso no seu telefone. Eu sei como isso acaba nos filmes.

Imagem do topo: Google