Uma atualização da lei do estado da Virgínia, nos EUA, contra pornografia de vingança proibindo a distribuição de vídeos explícitos e imagens que foram transformados em deepfake – ou seja, modificados usando algoritmos de machine learning para ilustrar outra pessoa – ou criados com a intenção de “coagir, assediar ou intimidar” a vítima entrou em vigor na segunda-feira, segundo a CNET.

A pornografia de vingança é um neologismo comum para a distribuição de mídia sexualmente explícita de outra pessoa sem o seu consentimento. A Virgínia aprovou uma lei em 2014 que passou a considerar esse ato com intenção maliciosa uma contravenção de Classe 1; a lei alterada agora se estende à distribuição maliciosa de “uma imagem ou vídeo falsamente criado”. Como tal, ela se estende além dos deepfakes e inclui métodos como o Photoshop.

Segundo o Ars Technica, 1º de julho é a data padrão na Virgínia para que as novas leis entrem em vigor, com a Assembleia Geral aprovando o projeto no início de março e sendo sancionada pelo governador Ralph Northam no final do mesmo mês. Uma contravenção de Classe 1 na Virgínia pode levar a até 12 meses de prisão e/ou até US$ 2.500 em multas.

Embora a lei abranja fotos manipuladas desse tipo que foram permitidas pela tecnologia de computador por anos, os legisladores envolvidos na aprovação do projeto de lei alegaram que o alvo era especificamente os deepfakes. Algoritmos complicados que podem trocar automaticamente o rosto de uma pessoa em um vídeo pornográfico melhoraram drasticamente nos últimos anos. (Ainda não é o caso de trocas algorítmicas de rosto realmente perfeitas de indivíduos que se movem e interagem no ambiente, embora a proliferação de vídeos extremamente convincentes, que podem ser gerados a partir de um pequeno número de imagens ou de um clipe curto, não seja algo reconfortante.)

Os ofensores colocam pornografia de vingança “em um site com a intenção de coagir, assediar ou prejudicar as vítimas”, disse à WTKR o representante Marcus B. Simon, da cidade de Fairfax, que apresentou o projeto. “Hoje em dia você nem precisa ter fotos assim – da pessoa em sua posse… tudo o que você tem que ter são fotos do rosto. Você pode usar inteligência artificial para combinar com um corpo”.

Deepfakes têm gerado preocupações nos últimos anos por causa de sua potencial utilidade em tudo que se possa imaginar, desde campanhas políticas de desinformação até enganar sistemas de reconhecimento facial, mas a pornografia manipulada tem sido vista como uma das aplicações mais problemáticas. Várias plataformas, incluindo Reddit e Pornhub, tomaram medidas para banir os deepfakes, notando que eles são implicitamente não-consensuais. O desenvolvedor de um aplicativo chamado DeepNude, que foi capaz de alterar digitalmente fotos de mulheres para remover suas roupas, foi recentemente forçado a encerrar o projeto depois de uma enorme repercussão online.