Sundar Pichai, CEO do Google, acredita que estamos vivendo em um “mundo no qual a inteligência artificial vem primeiro”. Ele provavelmente está certo. A inteligência artificial é a grande tendência atualmente no Vale do Silício, à medida que empresas de tecnologia correm para criar apps com aprendizado de máquina e reconhecimento de imagem.

Esta semana, o Google anunciou um assistente de IA incorporado em seus novos smartphones Pixel. Mas há uma desvantagem fundamental na mais recente criação da empresa: devido à própria natureza da inteligência artificial, nossos dados ficam menos seguros, e as empresas de tecnologia estão agora recolhendo informações ainda mais pessoais sobre cada um de nós.

Google Pixel: tudo o que você precisa saber sobre os novos smartphones Android
Google usa inteligência artificial para economizar energia em data centers

O novo assistente do Google, que estreou no novo app de mensagens Allo, funciona assim: faça uma pergunta sobre a previsão do tempo, restaurantes nas proximidades ou direções de trânsito, e ele responde com informações detalhadas ali mesmo na interface do chat. É, sem dúvida, bacana e útil.

Pichai ressaltou no evento que este é apenas o começo para a inteligência artificial. A IA do Google só vai ficar mais rápida e mais precisa. Ela vai aprender coisas sobre seus hábitos e preferências para oferecer resultados personalizados e para responder a perguntas mais específicas.

É aí em que os problemas começam. Para a IA “aprender”, ela terá de recolher e analisar o máximo de dados possível sobre você, a fim de servir recomendações, sugestões e dados mais precisos.

Como o Google Assistant recomenda coisas que são por natureza pessoais para você – onde comer hoje à noite, ou como chegar do ponto A ao B – ele está acumulando uma enorme coleção de seus pensamentos mais pessoais, lugares visitados e preferências.

O Google é bastante vago sobre exatamente quais dados o Assistant está recolhendo. Ele pode acessar informações sobre seu dispositivo, como contatos ou armazenamento (leia-se: literalmente qualquer coisa no seu dispositivo), e também pode acessar o conteúdo na sua tela.

E para a inteligência artificial funcionar, as mensagens têm de ser descriptografadas. Os cientistas da computação estão tentando descobrir uma maneira de fazer “criptografia pesquisável”, mas isso ainda está longe do nosso cotidiano.

Além disso, mesmo a criptografia padrão ainda tem problemas. O Google usa o melhor protocolo disponível atualmente, o Signal, dentro do seu app de mensagens Allo – mas se você ativar esse recurso, diga adeus ao assistente de inteligência artificial.

Os engenheiros de segurança do Google sabem, e especialistas em criptografia concordam, que a criptografia automática é a melhor maneira de defender seus dados pessoais e conversas de hackers e da vigilância do governo. Mas, a fim de se manter competitivo contra todas as outras empresas de tecnologia que têm (ou terão) assistentes movidos a IA, o Google não tem muita escolha.

O Facebook tem quase que exatamente o mesmo problema. O Messenger também oferece criptografia opcional, e usa o que é amplamente considerado o padrão de ouro para criptografar mensagens, tal como o Google. Mas, para o usuário fazer coisas como chamar um Uber a partir do app ou usar um bot, as mensagens precisam ser descriptografadas.

A Apple, que criou uma imagem de defensora da privacidade, tem um problema semelhante envolvendo conveniência vs. privacidade. O iMessage utiliza criptografia ponta-a-ponta, impedindo até mesmo que a empresa leia o conteúdo das mensagens. No entanto, isso muda se você ativar o backup do iCloud.

Nesse caso, a Apple guarda cópias das mensagens e as protege usando uma chave que não é controlada por você. É possível desativar o backup do iMessage, mas isso também interrompe o backup de suas fotos, contatos, configurações e outros.

Estes novos assistentes são muito bacanas, e a realidade é que muitas pessoas provavelmente irão utilizá-los e desfrutar da experiência. Mas isso significa que nós estamos sacrificando a segurança e a privacidade dos nossos dados para que o Google – e o Facebook e outros – possam desenvolver o que acabará por se tornar uma nova forma de ganhar dinheiro. Pense, por exemplo, em um assistente que oferece resultados patrocinados quando você pergunta o que jantar esta noite.

O Google está apostando que as pessoas se preocupam mais com comodidade e facilidade do que com uma noção de privacidade – e eles estão corretos nesse pressuposto. O trabalho da empresa é inovar e ganhar dinheiro, e no mínimo, ela está oferecendo a você uma opção robusta para proteger seus dados. Mas, claro, é uma opção que sacrifica o recurso útil do assistente de IA.