A ByteDance, proprietária do TikTok, vem secretamente criando um recurso de deepfake que permitirá aos usuários inserir seus rostos em vídeos, de acordo com uma matéria do TechCrunch. Embora o recurso ainda não esteja ativo, parece que o TikTok e o Douyin, o aplicativo irmão do TikTok na China, já têm o código para fazer varreduras biométricas de vários ângulos do rosto de um usuário. A digitalização pode ser inserida em alguns vídeos antes de ser compartilhada.
As notícias parecem preocupantes, especialmente quando você considera como vídeos manipulados podem ser utilizados de maneira nociva para espalhar desinformação. Um exemplo é o vídeo viral falso em que Nancy Pelosi, presidente da Câmara dos Representantes dos EUA, parece estar falando enrolado.
O TikTok também foi objeto de escrutínio nos últimos tempos, com acusações de que ele coletou dados de crianças, proibições militares e preocupações de segurança nacional.
O código em si foi descoberto pela Watchful.ai, uma startup israelense. Suas descobertas indicam que a ByteDance está ciente de que um recurso de deepfake pode não ser recebido muito bem. Por isso, parece que a empresa resolveu criar algumas salvaguardas.
Por exemplo, os usuários devem escanear o rosto de vários ângulos — uma medida que funciona como verificação de identidade e impede que alguém use uma única foto para criar vídeos manipulados sem consentimento.
Os usuários também poderiam colocar suas faces apenas em um número limitado de vídeos cujos direitos a ByteDance alega possuir. Por fim, quando se trata de compartilhar, os vídeos gerados apresentam marcas d’água para indicar que o conteúdo não é real.
A Watchful.ai também encontrou atualizações não publicadas nos termos de serviço do TikTok e Douyin em relação ao recurso deepfake. Eles reiteram que a “verificação de identidade” é necessária e que fotos não podem ser usadas. Também parece positivo o fato de que menores de idade não poderão ter acesso à ferramenta.
No entanto, nem o TikTok nem o Douyin parecem dispostos a admitir a existência desse recurso. Porta-vozes de ambos os aplicativos negaram as descobertas da Watchful.ai ao TechCrunch. O TikTok negou especificamente que isso seria um recurso futuro, mas também aparentemente inadvertidamente reconheceu que o código existia, declarando que os “fragmentos de código inativos estão sendo removidos para eliminar qualquer confusão”.
Essa desconexão entre os dois aplicativos parece reforçar as notícias recentes de que a ByteDance está fazendo o que pode para isolar o TikTok do restante de suas operações chinesas e, assim, evitar que surjam preocupações com espionagem. Em um e-mail para o Gizmodo, um porta-voz do TikTok disse: “O TikTok não está testando esse recurso, nunca o ofereceu e não tem intenção de oferecê-lo no futuro”.
É difícil dizer se o recurso deepfake será lançado nos EUA. É possível que seja uma novidade apenas para a China, ou ainda que a ByteDance pense que ele não compensa a possibilidade de uma repercussão negativa.
Mesmo assim, este não é o único aplicativo de mídia social a se interessar pela manipulação de vídeos por meio de filtros ou troca de rostos. O Snapchat, por exemplo, tem um recurso de troca de rostos há anos. O aplicativo chinês Zao deu um passo adiante, permitindo que os usuários colocassem a cara no corpo de atores famosos em pequenos clipes.
O problema é que, quanto mais sofisticadas essas ferramentas do deepfake se tornam, mais obscuras se tornam suas relações com propriedade intelectual, desinformação e possíveis abusos. Ainda não se sabe se outros aplicativos tentarão incorporar ferramentas desse tipo mais complexas em suas plataformas.