Quando assisti ao trailer de Ex Machina, fiquei bem empolgado. E não foi só por causa da atraente robô chamada Ava. O trailer mostrava androides, inteligência artificial, testes de Turing! Era o filme de ficção científica dos meus sonhos. Mas depois de assistir ao filme, eu admito que fiquei assustado. Isso porque ele disse a verdade sobre como a inteligência artificial pode se desenvolver em breve.

>>> A partir daqui, o post está cheio de spoilers do filme Ex Machina. Você foi avisado! <<<

Eu deveria estar preparado para isso. Afinal, o trailer nem se dá ao trabalho de esconder o fato de que algo sai muito errado no laboratório isolado de inteligência artificial de Ex Machina. Também é o tipo de plot twist que esperamos ver quando até mesmo as mais inteligentes pessoas do mundo nos alertam para os riscos que uma inteligência artificial representa para nós. Estava claro que o robô se transformaria em um serial killer, deixando espelhos despedaçados sujos de sangue pelo chão. (Eu avisei que teria spoiler!)

Um dia depois de ver Ex Machina, fiz uma viagem para a Universidade Carnegie Mellon, onde encontrei diversos professores de robótica. A viagem não tinha relação nenhuma com o filme, mas acabei passando os dias seguintes permitindo que cobras robóticas subissem nas minhas pernas, assistindo a braços robóticos acenarem para mim, e permitindo que robôs autônomos me guiassem pelo campus. Durante todo esse tempo, eu esperava pelo momento em que uma dessas máquinas pegaria uma faca de cozinha. Enquanto isso, uma das principais preocupações em todos os projetos de robótica de Carnegie Mellon é que tudo seja seguro.

Talvez os robôs não sejam a parte mais assustadora do sonho da inteligência artificial. O que me deixou sem palavras após Ex Machina não foi a violência envolvendo os robôs. Foi o horror do sentimento humano confrontado por um monstro criado pela própria humanidade. Mas, no filme — e talvez na vida real — a inteligência não é o monstro. O monstro verdadeiro é a coleta de dados.

Espera um pouco. Como assim?

divisoria

Permita-me voltar um pouco. Ex Machina é construído em cima de um cenário bastante crível. Um jovem programador (Domhall Gleeson) vence um concurso para passar uma semana com o fundador da empresa na qual trabalha, um bilionário recluso e provavelmente maluco (Oscar Isaac) que enriqueceu ao construir um motor de busca chamado Blue Book. Assim que chega, o jovem programador se encontra e se apaixona pela androide chamada Ava (Alicia Vikander).

Soa familiar? Bem, as referências ao Google e ao Facebook são óbvias. A referência a Wittgenstein é bastante inesperada, mas felizmente o filme explica: os livros Blue e Brown são cadernos de anotações compilados pelo filósofo vienense em meados da década de 1930. Essa lembrança do velho Ludwig serve para destacar como Ex Machina está cheio de referências filosóficas. O que faz bastante sentido em um filme sobre a definição de consciência.

Um motor de busca é um ponto de partida perfeito para uma inteligência artificial, já que ele é baseado em um algoritmo que organiza informação em tempo real. O Google já fez algumas coisas bastante impressionantes com softwares de inteligência artificial. Construir uma máquina que pensa como um humano, no entanto, é bem difícil: você precisa compreender como humanos pensam. E, convenientemente, o histórico de buscas do mundo inteiro é um bom jeito de estudar a psiquê humana.

E essa não é a parte mais difícil. Assim como o bilionário talvez maluco destaca, o teste tradicional de Turing não é tão difícil assim para a inteligência artificial existente. Robôs já estão escrevendo notícias e cuidando de crianças, então o desafio para eles não está exatamente na linguagem. O desafio real é criar um robô que consegue olhar, agir e se movimentar como um humano. Comportamento, expressões e emoções humanas, por exemplo. Essas coisas não são facilmente comunicáveis através de termos de busca.

Ex Machina

Então o que faz o bilionário possivelmente louco? Ele coleta todos os dados. No filme, o personagem de Oscar Isaac descreve um cenário assustadoramente possível: o governo permite que ele acesse todas as câmeras e microfones de computadores e smartphones espalhados pelo mundo — para coletar não apenas os dados de busca, mas também as expressões faciais correspondentes e conversas. Parece loucura, mas é totalmente possível. Graças aos vazamentos de Snowden, sabemos que o governo dos EUA já desenvolveu a tecnologia para isso. Só não sabemos se ela já foi usada para algo.

divisoria

É fácil saber para onde isso tudo vai. O jovem programador não ganhou um concurso para passear com Willy Wonka por ser sortudo. Ele foi selecionado por causa do seu histórico de busca — que disse que ele é o candidato certo com um bom “senso de moral” para um novo tipo de teste de Turing.

Esse teste não tem como objetivo detectar a diferença entre um robô e um humano. Seu objetivo está em determinar se uma inteligência artificial consegue ou não enganar um humano. No caso de Ava, isso significa orquestrar sua fuga da prisão de vidro do bilionário possivelmente louco. E isso requer que ela convença o jovem programador a se preocupar mais com ela do que com seu companheiro humano.

Bem, Ava passou no teste de maneira brilhante. A consequência é bastante triste para todos os humanos envolvidos.

O programador sofre aquela que é possivelmente a pior das consequências. Ele não consegue escapar da robô, e é deixado para apodrecer em uma unidade de pesquisa remota. Por quê? Porque ele entregou voluntariamente enormes quantidades de dados sobre si mesmo (incluindo suas preferências de pornografia) para um motor de busca e o robô usou esse conhecimento para manipulá-lo. Consideravelmente fodido está o rapaz, não?

Ex Machina

E adivinhe: é mais ou menos isso o que o Google faz todos os dias — só que sem a parte do robô violento (ao menos por enquanto). Todos os dias, você entrega detalhes sobre seus desejos, esperanças e necessidades, e o Google consegue assim entregar publicidade mais relevante para você. Mas imagine um futuro em que os dados não são usados apenas para publicidade mais inteligente, e sim para alimentar um ser artificialmente inteligente com todas as informações que ele precisa para derrotá-lo. Ou, melhor ainda, robôs poderiam aproveitar os dados contra os humanos em uma espécie de manobra jiu-jitsu artificialmente inteligente que levaria nós, humanos, a destruirmos nós mesmos.

divisoria

Quando saía do cinema, me perguntava quantos robôs sabem quem eu sou. Especificamente, me perguntei quantos robôs do Google estão me monitorando. Eu tinha conversado com a assessoria do filme via Gmail. Eu usei o Google Maps para saber o caminho para o cinema. Eu mesmo busquei alguns detalhes no Google sobre diretor e atores. E fiz a maior parte disso em um smartphone rodando o Android do Google.

Estamos acostumados com isso atualmente. O Google é uma empresa gigante que produz todo tipo de ferramenta útil, e muitas delas não custam nada para serem usadas — nada além de você ter que entregar a maior quantidade possível dos seus dados. Não me lembro qual foi o último dia em que eu não joguei uma quantidade imensurável de dados no Google. Além disso, não me lembro qual foi a última vez que retive dados por qualquer motivo.

Ex Machina

Não estou preocupado que uma empresa como o Google esteja desenvolvendo um robô artificialmente inteligente que será capaz de destruir a humanidade. Stephen Hawking, por outro lado, está. Assim como diversos outros seres humanos bastante inteligentes. Eu me esquivei do debate por muito tempo, em parte por ser bastante otimista em relação à tecnologia, em parte por estar consciente dos riscos de ser um ludita. Dito isso, eu tive alguns problemas para dormir após ver Ex Machina.

Não tenho medo de robôs. Tenho medo de dados, e de como esses dados podem ser usados contra nós de maneiras que nem imaginamos.

[Todas as imagens via A24]