Fazer imagem usando IA gasta energia suficiente para carregar seu celular 100%

A inteligência artificial generativa facilita inúmeros processos. Mas existe um custo por trás disso: os modelos para gerar textos e imagens consomem mais energia elétrica. É o que mostra um estudo que mediu as emissões de carbono causadas por modelos de IA.

A iniciativa foi realizada por Alexandra Sasha Luccioni e Yacine Jernite, da startup norte-americana Hugging Face, e por Emma Strubell, da universidade Carnegie Mellon, dos Estados Unidos. O estudo foi apresentado com o seguinte título: “Power Hungry Processing:⚡Watts⚡Driving the Cost of AI Deployment?”

• Inteligências Artificiais não são todas iguais: conheça as 5 mais relevantes
• De Turing ao ChatGPT: conheça história da IA, que nasceu como arma de guerra
• Saiba o que é ASI, a próxima grande barreira da inteligência artificial

Durante o experimento, os pesquisadores notaram que as tarefas de classificação consomem menos energia e emitem menos carbono. Mas não se pode dizer o mesmo quando se trata de atividades generativas, para construir textos e imagens.

Segundo o estudo, tarefas gerativas, como geração de texto e resumo, usam, em média, mais de 10 vezes mais energia para o mesmo número de inferências. Ou seja, cerca de 0,05 kWh-hora para 1.000 inferências.

Na prática, isto significa que o modelo para gerar texto mais eficiente utiliza tanto energia quanto 16% de uma carga completa de smartphone. Para a comparação, o estudo considera que a recarga de um “celular médio” requer 0,012 kWh.

O consumo aumenta consideravelmente em tarefas multimodais. Especialmente ao gerar legenda de imagens ou construir imagens a partir de texto. Neste caso, o resultado dessas tarefas varia de 0,06 a 2,9 kWh horas para 1.000 inferências.

Considerando o comparativo anterior, isto significa que o modelo menos eficiente para gerar imagem é capaz de oferecer quase uma carga de bateria por geração de imagem.

Mas o estudo aponta que existe uma grande variação entre os sistemas, a depender das suas propriedades e possibilidades.

Confira os resultados:

Modelos de imagem também emitem mais carbono

O estudo ainda analisou a emissão de carbono a partir dos recursos de IA. Os pesquisadores apontaram que os sistemas para desenvolver imagens a partir de comandos de texto (prompts) são os mais poluentes. Mas a intensidade varia de modelo para modelo.

O grande destaque vai para o modelo Stable Diffusion XL, que gera 1.594 gramas de CO2 para 1.000 inferências. A quantidade equivale a cerca de 6,5 km dirigidos em um carro movido à gasolina.

“Isso pode aumentar rapidamente quando a imagem modelos de geração como Dall-E e MidJourney são implantados em aplicações voltadas para o usuário e usados por milhões de usuários globalmente”, diz o estudo.

Veja o comparativo por tarefas no gráfico a seguir:

Análise de emissão de carbono a partir do uso de modelos de IA (Imagem: Reprodução/ArXiv)

Como o estudo foi realizado?

Para fazer a análise, os pesquisadores selecionaram dez tarefas de machine learning (ML) de cinco modalidades diferentes: classificação de texto, geração de texto, classificação de imagens, descrição de imagens e geração de imagens a partir de comandos de texto (prompt).

As modalidades foram escolhidas pois são tarefas em comum no processamento de linguagem natural (NLP) e visão computacional. Este fator possibilita a análise de múltiplas atividades envolvendo inteligência artificial.

Ao todo, 88 modelos foram usados para a análise. No estudo, foi utilizada uma máquina virtual hospedada no Amazon Web Services (AWS) com a GPU Nvidia A100-SMX4 de 80 GB. Os pesquisadores também usaram o pacote Code Carbon para mensurar a energia consumida e o carbono emitido durante a inferência.

Segundo o MIT Technology Review, o estudo ainda será revisado por pares. Mas você já pode conferir o preprint eletrônico no ArXiv.