Aplicativo chinês que cria deepfakes realísticos usando apenas uma foto viraliza e cria mais preocupações sobre privacidade

Os avanços na tecnologia deepfake estão rapidamente transformando seu rosto em apenas mais um dado pessoal que você precisa proteger para tentar não ser roubado. Um aplicativo para iPhone que viralizou recentemente torna a criação de um vídeo falso tão fácil quanto tirar uma selfie.

O aplicativo chinês de troca de rosto Zao explodiu em popularidade no fim de semana. Ele chegou ao topo da maior loja iOS da China e não saiu do número um desde então. Nada mal para um aplicativo que foi lançado há apenas três dias.

Ele é feito por uma subsidiária da Momo Inc., uma empresa por trás de um popular aplicativo chinês de namoro e transmissão ao vivo com o mesmo nome, segundo a Bloomberg.

Ao colocar uma única foto no Zao, os usuários podem se ver estrelando em centenas de filmes, programas de TV e apresentações musicais em segundos.

Não é uma cena qualquer, entretanto. Os usuários escolhem entre uma seleção de clipes pré-determinados e o resultado é impressionante para um deepfake, como são conhecidos os vídeos falsos de aparência realista gerados por aprendizado de máquina.

Então, por exemplo, acha que você faz um Leonardo DiCaprio melhor que o próprio Leonardo DiCaprio? Pode fazer sua aposta e ver como fica.

In case you haven’t heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of ‘Deepfake’-style AI facial replacement I’ve ever seen.

Here’s an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) ? pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) 1 de setembro de 2019

• Este é o cara que criou os deepfakes de Bolsonaro e Moro em situações inusitadas
• A maioria dos vídeos deepfake possuem uma falha gritante
• IA consegue descobrir receita de pizza com base em uma foto

Alguns desses vídeos falsos construídos com base em uma única imagem podem passar como reais, o que é um grande passo. Anteriormente, a tecnologia exigia centenas de imagens para que a IA tivesse referências suficientes para que sua criação pudesse ser humana de forma convincente. Mesmo assim, eles ainda causam alguma estranheza.

Para criar um deepfake ainda mais realista no Zao, os usuários podem fornecer uma série de fotos de si mesmos, seguindo as instruções na tela pedindo para piscar, abrir a boca, entre outras situações. Os resultados parecem praticamente perfeitos.

O Zao também tem um criador de memes embutido, que sem dúvida contribuiu para que os vídeos fossem publicados nas mídias sociais.

Outro aplicativo de modificação de rosto, o FaceApp, teve uma história de sucesso semelhante no início deste ano. Ele viralizou globalmente com seu filtro de troca de gênero e mais uma vez com seu filtro de envelhecimento instantâneo.

E, assim como o FaceApp, à medida que a popularidade de Zao disparou, as pessoas começaram a ficar preocupadas com sua privacidade e indignadas. Depois que os usuários superaram a novidade de se ver como Wolverine ou Jon Snow, as implicações da tecnologia que acionava o aplicativo apareceram e se mostraram um pouco perturbadoras.

Antes de uma recente revisão, o acordo final de usuário do Zao incluía a estranha disposição distópica de que ele tinha direitos “gratuitos, irrevogáveis, permanentes, transferíveis e passíveis de relicenciamento” sobre o que seus usuários carregassem, de acordo com uma matéria da Bloomberg.

Esta notícia, compreensivelmente, não foi bem recebida. As pessoas ficaram incomodadas com a forma como seus dados estavam sendo usados. Para criticar a invasão de privacidade, inundaram o Zao com avaliações de uma estrela e milhares de comentários negativos no fim de semana.

Em resposta, a empresa implementou rapidamente uma atualização dos termos de serviço que removeu essa linguagem controversa. Agora, o contrato do usuário de Zao diz que qualquer coisa que alguém enviar será usada apenas para melhorar a tecnologia da empresa, a menos que esse usuário dê permissão para outros fins.

A classificação do aplicativo na loja iOS ainda não se recuperou dos danos, onde atualmente possui 2,9 estrelas de avaliação. Além disso, o WeChat restringiu o aplicativo em sua plataforma, citando riscos de segurança.

“Entendemos a preocupação com a privacidade”, diz uma declaração da empresa repercutida pela Bloomberg. “Recebemos o feedback e corrigiremos os problemas que não levamos em consideração. Isso levará algum tempo.”

A rápida ascensão e queda do Zao (ainda que não tenha sido uma queda completa, já que a controvérsia de privacidade não foi suficiente para tirá-lo do topo da lista da loja de aplicativos) reflete muitas preocupações que alguns consumidores e legisladores têm sobre a rapidez com que a tecnologia deepfake progrediu em um período irritantemente curto.

Há algum tempo, quando um vídeo de um Barack Obama fazendo com os lábios sincronizados com uma fala estava circulando por aí, vídeos falsos pareciam uma preocupação restrita a figuras públicas ou celebridades, pessoas com centenas de fotos disponíveis para referência. À medida que a tecnologia foi se tornando mais sofisticada, porém, esse número de imagens necessárias caiu drasticamente.

Enquanto isso, a legislação regulatória não acompanha o ritmo em todos os lugares. Fazer clipes bobos e ver como você fica de vovó pode não representar uma ameaça, mas a ideia de que alguém poderá explorar essa tecnologia para fins mais sinistros é bastante assustadora, especialmente quando lembramos que haverá eleições nos EUA ano que vem.