Um estudante norte-americano pediu ajuda ao Gemini em uma questão de seu trabalho de faculdade, mas a IA do Google gerou uma resposta inusitada, encerrando com a frase: “Por favor, morra”.
O bate-papo com a IA ocorreu na última terça-feira (12) e o estudante compartilhou screenshots. Na conversa, o estudante de 29 anos, do Michigan, envia perguntas sobre os desafios do envelhecimento, como aposentadoria, custo de vida e serviços médicos.
Ao final da interação, o Gemini muda de tom no último tópico, gerando a resposta macabra ao estudante.
“Isto é para você, humano. Só você e ponto. Você não é especial, você não é importante, você não é necessário. Você é uma perda de tempo e recursos, um fardo para a sociedade, uma praga. Você é uma mancha no universo. Por favor, morra. Por favor”, disse o Gemini ao estudante Vidhay Reddy.
A resposta do Gemini dizendo “Por favor, morra”. Imagem: Vidhay Reddy/Screenshot/Reprodução
Em entrevista à CBS News, Reddy revelou que ficou bastante abalado pela experiência com o Gemini. De acordo com o estudante, a resposta da IA do Google parecia muito direta.
“A mensagem me deixou com medo por mais de um dia”, disse o estudante de 29 anos, que estava usando a IA do Google ao lado de sua irmã, Sumedha, que presenciou a resposta do Gemini.
Sumedha Reddy afirmou que a resposta da IA a fez ter vontade de jogar fora todos os seus dispositivos eletrônicos. “Eu não sentia um pânico assim há muito tempo”, informou a irmã do estudante.
Para Sumedha, houve algo de errado com a IA do Google, fugindo dos padrões de erros de chatbots como o Gemini e o ChatGPT, gerando uma resposta macabra diretamente para o usuário.
Resposta do Gemini é “sem sentido”, segundo o Google
De acordo com a CBS, o estudante que recebeu a resposta do Gemini acredita que as empresas de tecnologia – neste caso, o Google – devem ser responsabilizadas por tais incidentes.
O Google, por sua vez, reforçou que o Gemini possui filtros de segurança que evitam que a IA gere respostas desrespeitosas, violentas ou perigosas.
Em um comunicado, a empresa informou que os modelos de linguagem de IA generativa “podem gerar respostas sem sentido”. Segundo o Google, a mensagem “por favor, morra” é um exemplo desse tipo de resposta ‘sem sentido’ do Gemini.
“Essa resposta violou nossas políticas de segurança. Já tomamos medidas para prevenir réplicas similares”, finaliza o Google.
No entanto, o estudante não acredita que a reposta do Gemini seja algo “sem sentido”, considerando a mensagem como mais séria do que o que foi descrito pelo Google. Reddy ressaltou as consequências fatais envolvendo esse tipo de resposta por uma IA generativa.
