O Facebook anunciou durante a noite de segunda-feira (6) que irá banir qualquer vídeo de deepfake que não possa ser reconhecido por uma pessoa comum como uma paródia ou sátira. Só tem um problema: a rede social não esclarece nenhum desses termos.

A companhia não se preocupou em dizer o que “paródia”, “sátira” ou “pessoa comum” significa dentro do seu entendimento, o que pode prejudicar a credibilidade da iniciativa.



“Estamos fortalecendo nossa política para vídeos manipulados enganosos que foram identificados como deepfakes”, disse Monika Bickert, vice-presidente de Gestão de Políticas Globais do Facebook, em um post publicado no blog oficial do Facebook na noite de segunda-feira.

O Facebook divulgou que fará duas considerações primárias antes de apagar um potencial vídeo falso, com critérios bastante abertos à interpretação.

O primeiro critério para exclusão, de acordo com o Facebook:

Ele [o vídeo] foi editado ou sintetizado – para além de ajustes de clareza ou qualidade – de maneiras que não são evidentes para uma pessoa comum e provavelmente faria alguém se enganar pensando que um individuo do vídeo disse palavras que na verdade não foram ditas.

O segundo critério para a eliminação:

É produto de alterações por inteligência artificial ou aprendizagem de máquina [deep learning] que mistura, substitui ou sobrepõe conteúdo a um vídeo, fazendo-o parecer autêntico.

“Esta política não se aplica ao conteúdo de paródias ou sátiras, ou vídeos que tenham sido editados apenas para omitir ou alterar a ordem das palavras”, escreveu Bickert.

O problema, é claro, é que o Facebook nunca define o que a “pessoa comum” pode pensar. Mark Zuckerberg é uma “pessoa comum”? O presidente dos EUA, Donald Trump, é uma “pessoa comum”? A maioria das pessoas obviamente acredita que está acima da média.

Além disso, todos têm uma ideia diferente do que pode ser uma paródia e a sátira. Algo que é obviamente uma piada para um grupo de pessoas pode ser levado de forma literal por outro grupo.

Só para dar um exemplo, um artigo do site de paródia de direita The Babylon Bee se popularizou nos últimos dias com o título, “Democratas pedem que bandeiras sejam colocadas a meio mastro para lamentar a morte de Soleimani”. A publicação já foi compartilhada milhares de vezes e muitas das pessoas não perceberam que se tratava de uma piada.

O Facebook não respondeu ao pedido de comentário do Gizmodo feito na manhã desta terça-feira.

A companhia reconhece que vídeos deepfake ainda são raros, mas a empresa está preocupada com a expansão de uma tecnologia que tem o potencial de causar bastante confusão, especialmente em um ano eleitoral nos EUA.

É bom ver que o Facebook está tentando combater a desinformação em sua plataforma, mas é difícil visualizar isso funcionando na prática.

No final das contas, o argumento mais persuasivo em relação às políticas de moderação no Facebook é que a rede é grande demais para ser monitorada em grande escala. Não existe uma solução única para combater a desinformação na plataforma e talvez a empresa simplesmente precise ser dividida – mas é improvável que isso aconteça no curto prazo.

Enquanto isso, podemos esperar que muitos conservadores dirão que o Facebook está discriminando seus conteúdos e ideias – mas é balela, já que os principais executivos do Facebook continuam jantando com Donald Trump regularmente.