A partir desta terça-feira (11), chineses estão proibidos de produzir e espalhar deepfakes que prejudiquem “a economia e segurança nacional”. O país é o primeiro a estabelecer uma série de regras para conter a disseminação de informações falsas criadas por softwares de IA (inteligência artificial).
Além da proibição, o regulador da Internet e Ciberespaço chinês determinou que fornecedores de tecnologias deepfake – como empresas, pesquisadores e indivíduos – devem rotular as imagens, vídeos e textos que foram gerados ou editados sinteticamente quando estes puderem ser interpretados como reais.
A nova lei é uma resposta à popularização da IA na China – e no mundo. Conteúdos deepfake passam por softwares capazes de manipular imagens e torná-las tão reais que fica difícil dizer se são verdadeiras ou falsas.
Essas ferramentas estão em recursos populares, como o recente gerador de texto ChatGPT e o Lensa, aplicativo que cria avatares digitais personalizados. O uso desses apps acende o alerta para a privacidade nas redes e a consolidação de informações falsas que, por serem criadas por uma máquina, soam como verdadeiras.
É o caso do ChatGPT: o robô ultra-responsivo da OpenAI é capaz de opinar sobre todos os assuntos – incluindo sobre si mesmo – com tanta naturalidade que parece ser humano. Mas não é: essa máquina aprendeu a simular conversas a partir da linguagem utilizada em milhões de textos disponíveis online.
O programa produz suas respostas com base na previsão de texto. Isso que permite que preveja qual palavra deve seguir a anterior para que se pareça com uma linha de raciocínio inteligível. Mas especialistas já alertam sobre os riscos de confiar cegamente na plataforma.
Tentativas de regulamentação
A nova regra da China contra deepfakes não surgiu ao acaso. O país mais populoso do mundo vive sob crescentes denúncias do uso de imagens manipuladas para aplicação de golpes e roubo de informações.
Em abril de 2022, um homem da cidade de Wenzhou disse que criminosos usaram uma tecnologia de troca de rosto para se passar por um amigo que pedia dinheiro emprestado. A vítima perdeu mais de R$ 37,5 mil na transação falsa, segundo o jornal chinês Global Times.
Agora, a lei da China tende a virar exemplo para o resto do mundo sobre a aplicação de regras aos programas que usam IA. Os EUA já tentaram abordar os potenciais abusos da deepfakes, mas preocupações sobre liberdade de expressão barraram os projetos no Congresso norte-americano ainda em 2021.
Na UE (União Europeia), o debate avançou com mais facilidade, apesar de não andar da mesma maneira que na China. O bloco recomenda que as próprias plataformas encontrem maneiras de mitigar a capacidade das deepfakes de espalhar desinformação, sem banir esses recursos completamente.
Jornalista e mestre em Linguística. Antes trabalhei no Poder360, A Referência e em jornais e emissoras de TV no interior do RS. Curiosa, gosto de falar sobre o lado político das coisas - em especial da tecnologia e cultura. Me acompanhe no Twitter: @juliamzps
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
