O serviço foi criado em março por um desenvolvedor holandês, Danny Postma, e já está tendo uma enorme repercussão. A plataforma funciona como um estúdio de fotografia e agência de modelos que utiliza IA de geração de arte para oferecer “modelos virtuais” por aluguel a partir de US$ 29 por mês.
Em seu Twitter, Postma explicou que a criação trata-se de um estúdio “sem câmera, sem pessoas reais e sem localização física”.
Não é difícil imaginar o porquê de uma ideia como essa resultaria em reclamações. Os críticos da IA afirmam que a popularização dessas invenções pode tomar o lugar de modelos reais. Recentemente, a marca de jeans Levi’s gerou controvérsia ao anunciar sua parceria com o estúdio de moda digital Lalaland.ai.
A Levi’s anunciou que pretende “aumentar a diversidade” misturando modelos de IA com modelos reais em suas campanhas. Ainda alegou que trabalhar com modelos reais não seria suficiente para atingir seus objetivos.
Mas enquanto as marcas investem em modelos inexistentes, profissionais negros, asiáticos e latinos continuam a enfrentar adversidades na indústria. De acordo com um relatório de diversidade do The Fashion Spot, em 2016, 78% dos modelos nos anúncios de moda de primavera eram brancos.
Ética
O uso de IA generativa também esbarra em questões éticas. Em janeiro, artistas norte-americanos processaram as empresas StabilityAI, Midjourney e DeviantArt por violações da lei de direitos autorais dos EUA, direito de publicidade e concorrência ilegal. Os artistas acionaram a justiça para impedir o suposto roubo de artes utilizadas para o treinamento de geradores de arte de IA sem compensação ou consentimento.
Vale lembrar que os “modelos de difusão”, como o usado pela Deep Agency, criam imagens a partir de prompts de texto – ou seja, descrições por escrito – através de dados de treinamento extraídos da internet. Isso inclui conteúdo protegido por direitos autorais, obtidos sem autorização ou consentimento.
A situação se agrava porque a Deep Agency não possui mecanismos que permitam aos artistas a remoção de suas artes dos dados de treinamento. Além disso, o serviço também não estabeleceu uma divisão de receita para artistas e fornecedores, como fez a Shutterstock, por exemplo.
Privacidade
Outra questão a se temer é a violação da privacidade de dados. Mês passado, cidadãos de Illinois, nos EUA, entraram com uma ação coletiva contra a Prisma Labs, empresa por trás do aplicativo de edição de fotos Lensa, por coletar dados biométricos dos usuários de forma ilegal.
Isso porque, para criar um avatar no app de IA, é necessário fazer upload de no mínimo 10 selfies, permitindo acesso às fotos do dispositivo. De acordo com a denúncia, é dessa forma que o app extrai os dados faciais dos usuários sem permissão.
No caso da Deep Agency, os clientes podem criar um “gêmeo digital” carregando cerca de 20 imagens de si mesmo em diferentes poses – e a política de privacidade não é clara sobre como elas são utilizadas. Portanto, é necessário excluir as imagens posteriormente, para evitar acabar fazendo parte dos dados de treinamento da plataforma.
Deepfakes
Além da possibilidade de resultar em notícias falsas, como aconteceu com o Papa Francisco, outro ponto que preocupa é a criação de deepfakes. Afinal, não há como impedir que alguém utilize a imagem de outra pessoa para gerar um avatar.
A geração de imagens por IA pode ser uma forma de aumentar a diversidade na moda e na mídia. Mas, por enquanto, parece que ela não está pronta para isso. A Deep Agency só gera imagens de mulheres — a não ser que você adquira uma assinatura paga. Mas esse não é o principal problema, já que a ferramenta tende a gerar imagens somente de mulheres brancas.
De acordo com uma reportagem da Vice, ao selecionar uma das imagens pré-existentes e as solicitações de uma pessoa de cor usando um lenço religioso, a imagem produzida foi a de uma mulher branca usando um lenço comum. Ainda segundo a matéria, o gerador de texto para imagem DALL-E 2, da OpenAI, propaga estereótipos de gênero ao exibir imagens principalmente de homens quando pesquisado o termo “CEO”, por exemplo.
Deep Agency. Imagem: Reprodução/Vice
A IA pode substituir os humanos?
Ainda que a inteligência artificial seja um exemplo impressionante do que a tecnologia é capaz, é improvável que ela substitua os seres humanos. Pelo menos num futuro próximo. Até o momento, aliás, elas ainda enfrentam dificuldades para reproduzir algumas características humanas simples, como as mãos.
Por não receberem treinamento suficiente para criar esses detalhes, plataformas como DALL-E, Midjourney e Stable Diffusion, muitas vezes colocam mais do que cinco dedos em uma mão, ou duas mãos em um mesmo braço, prejudicando o efeito ultrarrealista da imagem.
Quanto à Deep Agency, seu criador, Postma, declarou no Twitter que o site está “em beta aberto” e que “as coisas vão quebrar”. Ou seja, ainda há um longo caminho a se percorrer para aperfeiçoar as ferramentas.
Jornalista formada pela Unesp. Com passagem pelo site de turismo Mundo Viajar, já escreveu sobre cultura, celebridades, meio ambiente e de tudo um pouco. É entusiasta de moda, música e temas relacionados à mulher.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
