Nova câmera com IA generativa deixa pessoas sem roupa

Nova câmera com IA deixa as pessoas sem roupa. Spoiler: não está à venda — Imagem: NUCA/Reprodução

Por Vinicius Marques09 de abril de 2024 às 13:373 minutos de leitura

Uma dupla de alemães desenvolveu uma câmera fotográfica com IA capaz de utilizar a inteligência artificial generativa para tirar instantaneamente a roupa das pessoas presentes na imagem. O polêmico dispositivo, segundo seus criadores, é uma crítica aos rumos que a IA vem tomando nos últimos anos.

Câmera com IA não estará à venda

Mathias Vef and Benedisk Groß, idealizadores do polêmico projeto NUCA, garantem que o produto jamais estará à venda, embora os dois tenham investido bastante em ações publicitárias para divulgá-lo ao público.

Nova câmera com IA deixa pessoas sem roupa. Spoiler: não está à venda

Quando o usuário pressiona o botão de captura da câmera, que possui uma lente de 37 milímetros, o arquivo é enviado automaticamente para um servidor. Dessa forma, ele faz uma análise e gera um relatório do conteúdo em texto, contendo informações como idade aproximada, gênero e etnia da pessoa.

Logo em seguida, um modelo de IA recebe estas informações como um prompt e gera a imagem de um corpo nu ao mesmo tempo em que recorta a cabeça da foto original para colocá-la no novo conteúdo.

A câmera fotográfica usa Stable Diffusion e o polêmico Civitai AI, que vem sendo acusado de lucrar com nudez não consensual, para gerar as imagens de nudez.

Vef ressaltou em entrevista ao 404 Media que a nudez gerada por IA é uma assunto delicado. Ou seja, um dos grandes problemas de nosso tempo. A dupla decidiu investir no projeto para provocar a sociedade sobre a forma como a tecnologia vem sendo aplicada.

Ele citou o recente caso em que a cantora americana Taylor Swift foi representada em imagens geradas por IA sem roupa. As fotos viralizaram e passaram a circular livremente em redes sociais, como o Twitter, por exemplo.

Outro caso citado pelos desenvolvedores ocorreu anteriormente em Almendralejo, uma pequena cidade no sudoeste da Espanha. Lá, pelo menos 20 meninas entre 11 e 17 anos foram vítimas do ClothOff. Este é um software de inteligência artificial que manipula imagens e deixa os indivíduos sem roupa. Assim, os acusados de gerar os conteúdos são os próprios colegas de escola.

Imagem de divulgação/NUCA

Site oficial traz mais informações

No site oficial da NUCA, os criadores ressaltam que a câmera une fotógrafo e “modelo” mostrando o resultado de forma imediata. E acaba com o anonimato proporcionado por perfis falsos em plataformas de redes sociais.

Os criadores também esperam que o dispositivo paute o debate sobre padrões de beleza e reprodução de vieses algorítmicos. Por fim, a câmera será posteriormente exibida na exposição “Uncanny in the Nuud”, prevista para acontecer em Berlim, em 29 de junho.