O Google suspendeu temporariamente o recurso do Gemini que gera de imagens a partir de texto. Isso aconteceu após usuários da plataforma de conversação generativa denunciarem erros em representações históricas e raciais.
Um dos erros que mais circularam nas redes sociais foi a representação de soldados alemães negros em 1943, período em que o líder nazista Adolf Hitler comandava o país.
Outra imagem, mostra um comando para representar os chamados “Pais Fundadores” dos Estados Unidos, que entregou resultados de pessoas negras e indígenas. Na realidade, o grupo responsável pela fundação do país inclui George Washington, Thomas Jefferson, Benjamin Franklin e outros homens brancos.
A plataforma passou a ser bastante criticada na internet, acusada de forçar diversidade nos resultados das gerações de IA. Houve acusações, inclusive, de “racismo reverso” contra a gigante da tecnologia.
Resposta do Google
Com a grande repercussão dos erros da ferramenta de inteligência artificial, a big tech optou por restringir o acesso ao recurso de geração de imagens. Segundo afirmou em nota pública, o Google está trabalhando para corrigir o problema o mais rápido possível.
“Estamos trabalhando para melhorar esse tipo de representação imediatamente. A geração de imagens de IA do Gemini gera uma ampla gama de pessoas. E isso geralmente é bom, porque pessoas ao redor do mundo o usam. Mas está errando o alvo aqui”.
O próprio Google alerta que o Gemini pode estar sujeito a gerar respostas imprecisas ou sem sentido. O fenômeno é conhecido como “alucinação de IA”, e é bastante comum em ferramentas do tipo, incluindo o ChatGPT, da OpenAI, que é de longe a mais bem sucedida do segmento.
Na maioria das vezes as informações são apresentadas de maneira coerente e podem parecer bastante convincentes, mas apresentam alguns erros que às vezes podem ser bem sutis e outras mais perceptíveis. No caso de respostas de texto, muitos deles podem passar despercebidos, mas quando o assunto são imagens, fica bem mais fácil de notar.
O Google não divulgou informações sobre quando a ferramenta de geração de imagens será liberada novamente para o público.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
