A Meta precisou remover vários anúncios promovendo “nudify” — apps que usam IA generativa para criar deepfakes com pessoas reais. Mas, somente após uma investigação da CBS News que a Meta passou a remover os anúncios, mirando o principal app de “nudify”, o Crush AI.
A Meta, além de remover os anúncios, processou a Crush AI e anunciou medidas para combater outros aplicativos de “nudify” que anunciam em seu ecossistema de apps. A Meta entrou com uma ação judicial em Hong Kong contra a Joy Timeline HK, controladora da Crush AI. No processo, a Meta alega Joy Timeline “burlou as diretrizes de anúncios da plataforma”.
No seu blog oficial, a Meta admitiu que não consegue remover todo o conteúdo, pois a Joy Timeline continua burlando o sistema.
Mais de 8 mil anúncios de “nudify” nas plataformas da Meta
Aliás, nas duas primeiras semanas deste ano, a Crush AI publicou mais de oito mil anúncios de “nudify” nas plataformas do Meta, que incluem Instagram e Facebook. Futuramente, tais anúncios com deepfakes de nudez e sexo explícito podem chegar também ao WhatsApp.
90% do tráfego dos sites do Crush AI vem do Facebook ou do Instagram. Grupos que combatem deepfakes já alertavam à Meta sobre o “nudify” em suas plataformas.
Contudo, a investigação da CBS, que descobriu anúncios com nudez gerada por IA mesmo após a Meta declarar a remoção de “nudify”, foi o estopim para a ação judicial.
A Meta, inicialmente, colocou a culpa na IA generativa, como se não fosse uma das empresas que buscam criar a “IA superinteligente”. Mas, após a CBS descobrir que os anúncios miravam homens nos EUA, Reino Unido e União Europeia, com idades entre 18 e 65 anos, as coisas se complicaram.
Agora, a Meta afirma que o processo contra apps de “nudify” destaca a seriedade da empresa “ao lidar com tal tipo de abuso”.
Em janeiro deste ano, Mark Zuckerberg anunciou que a Meta seguiria os passos do Twitter e adotaria uma postura mais branda na checagem de dados. E, em 2024, entidades já reportavam a presença de conteúdos de apps de “nudify” nas plataformas da Meta. Os conteúdos foram removidos pelo Google e pela Apple.
A Meta se compromete a remover o conteúdo após milhares de screenshots, links compartilhados e vidas afetadas pelos apps de “nudify”, destacando mais uma vez a negligência da empresa.
Jornalista e mineiro. Já escreveu sobre tecnologia, games e ciência no site Hardware.com.br e outros sites especializados, mas gosta mesmo de falar sobre os Beatles.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
