Era apenas uma questão de tempo para vermos sofisticados vídeos de pornô falso (fake porn) aparecerem online. No entanto, já existe uma cruzada para tirar do ar estes vídeos super-realistas.

Reddit e Gfycat, duas populares plataformas que usuários estavam usando para subir fake porn, começaram a erradicar vídeos manipulados. Por vezes, são tão convincentes que desfiguram os contornos da nossa realidade.

Inteligência artificial tem sido usada para criar vídeos pornô falsos de ex-parceiros

Este tipo de pornô falso, também conhecido como deepfake, envolve mapear o rosto de alguém e colocá-lo no de uma estrela pornô. Embora pornô falso exista há um tempo, ferramentas gratuitas e poderosas, como o auxílio de inteligência artificial, permitem que trolls criem vídeos mais realistas, dado o fato que eles contam com imagens o suficiente de suas vítimas para recriar uma cena.

O subreddit Deepfakes, dedicado a este tipo de conteúdo, tem milhares de usuários que geralmente usam rostos de celebridades, embora recentemente a prática tenha evoluído a ponto de usarem imagens de colegas de classe ou ex-parceiros. E todo este processo geralmente é feito sem a autorização da pessoa.

Como o Next Web ressaltou nesta quarta-feira (31), alguns desses vídeos e gifs estão sendo removidos de plataformas populares após vários sites reportarem esta nova tendência. “Acabei de notar que meu upload de ontem foi apagado, pode ser por problemas de direitos autorais”, escreveu um participante do fórum no Reddit. “Não acho que foi por direitos autorais, pois vários ídolos japoneses com mínima presença no Ocidente também foram removidos”, informou outro redditor. “Mesmo os [trabalhos] bem remendados que não parecem com nenhum humano foram removidos. Isso sugere que alguém do Gfycat proativamente está removendo todos os gifs linkados aqui.”

Um outro usuário do Reddit postou no Deepfakes ontem notando que links antigos do Gfycat foram removidos do site. “Parece uma ação de limpeza, então pessoas deveriam evitar usar este site”, escreveu. “Qualquer um que tenha tentado postar um link antes deveria tentar colocá-lo novamente.”

Em um comunicado ao Gizmodo, o Gfycat confirmou que esta proativamente apagando arquivos de deepfake da sua plataforma. Nos termos de serviço não existe uma menção explícita a pornografia de vingança, mas proíbe qualquer conteúdo que seja “fora da lei, danoso, ameaçador, abusivo, assediador, torturoso, excessivamente violento, difamatório, vulgar, obsceno, que invada a privacidade de outros, odioso racialmente, ou etnicamente censurável.” Um porta-voz da companhia disse que deepfakes claramente violam as regras do site.

“Nossos termos de serviço permitem remover conteúdos que consideramos censuráveis”, disse um porta-voz do Gyfcat. “Nós achamos este conteúdo censurável e estamos ativamente removendo-o de nossa plataforma.”

O Reddit ainda não respondeu ao nosso pedido por um comentário, mas os deepfakes provavelmente também viola os termos de serviço do site. O Reddit claramente diz que conteúdos que não são bem-vindos incluem “fotografias, vídeos ou imagens digitais de qualquer pessoa em estado de nudez ou engajada em qualquer tipo de conduta sexual, tirada ou postada sem a permissão das pessoas envolvidas”. É claro que o assunto todo é complicado pelo fato de os corpos nus do pornô falso não pertencem às pessoas cujos rostos são colocados na cena.

Vídeos de pornô falso não são apenas uma invasão de privacidade nojenta e perturbadora — eles provavelmente violam leis de direitos autorais. Para criar deepfakes, alguém precisa de centenas de fotos de uma vítima. Para coletá-las é usado uma ferramenta open-source de busca avançada de imagem que busca por arquivos públicos na web. No entanto, a vítima pode requerer a remoção das imagens se elas são postadas sem permissão, citando infração de direitos autorais. Ambos Reddit e Gfycat tem políticas de infração de direitos autorais que dizem que removerão o conteúdo, caso seja ofensivo.

Assim como o avanço do pornô falso era previsível em nosso mundo de trolls, a reação a essa questão era inevitável. E trolls já estão pensando em novas formas e plataformas para postar este tipo de conteúdo, como redes sociais alternativas russas, como vk.com e ok.ru, caso você queira apagar algum vídeo seu. É um círculo vicioso e completamente esperado. que parecem não se importarem muito com vídeos.

Foto do topo por Getty Images