Este vídeo mostra como a tecnologia consegue facilmente criar uma fraude de Barack Obama

Alguns alertas sobre um possível “apocalipse de notícias falsas” estão soando há algum tempo. Existe uma ideia de que a tecnologia está tornando muito mais fácil a geração de desinformação e propaganda e de que tudo é disseminado rapidamente para legiões de pessoas na internet, sem checagem dos fatos.

• Pornhub diz que ‘deepfakes’ gerados digitalmente não são consensuais e vai removê-los
• Tecnologia consegue simular perfeitamente o movimento labial e criar vídeos falsos

Algo particularmente preocupante são os algoritmos alimentados por machine learning (aprendizado de máquina), que tornam possível a geração de vídeos falsos com figuras públicas dizendo coisas que nunca saíram de suas bocas. E o pior, com uma precisão audiovisual excepcional.

No ano passado, pesquisadores da Universidade de Washington utilizaram a tecnologia para fazer vídeos falsos do ex-presidente Barack Obama – eram coisas que ele tinha dito e cenas que ele realmente tinha filmado, mas com outra sincronização dos lábios.

A equipe de pesquisa não colocou novas palavras na boca de Obama, mas o diretor Jordan Peele, do filme Corra!, e o BuzzFeed preparam um alerta para mostrar que, em breve, pessoas maliciosas poderão gerar vídeos falsos de qualquer pessoa.

Utilizando uma tecnologia similar a do estudo da Universidade de Washington e uma imitação bem precisa da voz de Obama (feita por Peele), eles produziram um clipe do ex-presidente dizendo “Então, por exemplo, eles poderiam fazer com que eu dissesse, sei lá, que Killmonger [vilão do filme Pantera Negra] estava certo. […] Ou então, que tal, dizer que o Presidente Trump é sem noção”.

“Agora, veja, eu nunca diria essas coisas, pelo menos não em público, mas outra pessoa poderia dizer”, adicionou o falso Obama.

“Vimos sites de notícias falsas que disseram que o papa apoiou Trump, publicando textos que parecem se tratar de uma notícia real, mas, como se trata de um texto, as pessoas começaram a ficar mais cautelosas”, escreveu Jonah Peretti, CEO do BuzzFeed. “Agora estamos começando a ver tecnologias que permite pessoas colocar palavras na boca de figuras públicas de um jeito que parece ser algo real, já que se tratam de vídeos e vídeos parecem não mentir”.

O clipe falso produzido por Peele não é perfeito: trava em alguns pontos e às vezes é bem óbvio que algumas coisas não estão sincronizadas corretamente. Alguns dos movimentos da mão não são naturais, sem contar a repetição dos movimentos.

Mas a produção já está em um nível em que é possível enganar alguém que não está prestando atenção nos detalhes – alguém que está lendo um texto enquanto toca o vídeo rapidamente ou que liga a TV enquanto cozinha, por exemplo.

O vídeo foi produzido utilizando softwares já disponíveis, como Adobe After Effects e FakeApp, que aplicam ferramentas de aprendizado de máquina desenvolvidos pelo Google TensorFlow. Essa última ferramenta é a mesma que se espalhou rapidamente pelo Reddit e permitiu que algumas pessoas trocassem o rosto de atrizes pornô por rostos de atrizes famosas de Hollywood.

Existem incontáveis usos potenciais para essa tecnologia que são positivas. Poderíamos melhorar a qualidade de imagem de aplicativos de mensagens ou recriar discursos históricos em vídeos de alta definição ou até mesmo no formato de hologramas.

Os algoritmos de machine learning estão melhorando rapidamente e como escreveu o pesquisador de segurança Greg Allen na Wired, é provável que seja questão de tempo até que o componente de áudio chegue a um ponto em que a imitação de voz não seja mais necessária. Em menos de uma década , alguns tipos de análise forense talvez nem consiga detectar áudios forjados.

Gerar fakes de alta qualidade exige muito material bruto e ajustes específicos para chegar até algum ponto de fidelidade. Mas celebridades e políticos têm material de monte.

“Quando as ferramentas de produção de vídeos falsos possuem performance superior à computação gráfica atual e estão disponíveis para amadores, essas falsificações são capazes comprometer uma grande parte do ecossistema de informações”, escreveu Allen. “O crescimento dessa tecnologia transformará o significado de evidência e verdade nos domínios do jornalismo, comunicação governamental, testemunho na justiça criminal e, naturalmente, da segurança nacional”.

No final do vídeo de Peele, ele e o Obama falso fazem um alerta sobre o ceticismo que devemos adotar na internet. “Estamos em uma época perigosa”, conclui Peele. “A partir de agora, precisamos ficar mais vigilantes sobre aquilo que acreditamos na internet. Se trata de uma época na qual precisamos nos apoiar em fontes confiáveis. Pode parecer simples, mas a maneira que avançarmos na era da informação será a diferença entre sobrevivermos ou entrarmos em algum tipo de distopia fodida”.

[YouTube via The Verge]