Funcionário terceirizado vaza mais de mil gravações de áudio do Google Assistente

Gravações de áudio vazadas para empresa de notícias da Bélgica mostra que Google grava momentos em que não foi dado comando de ativação do Assistente.

Ilustração: Gizmodo

Se você ainda se apega a qualquer esperança de que o Google não permite que humanos ouçam gravações de voz do Google Home e do Google Assistente, pare agora. Um dos humanos que o Google contratou para revisar arquivos de voz recentemente vazou mais de mil gravações do Assistente para uma empresa de notícias belga, que publicou uma matéria e um vídeo sobre as gravações esta semana. O Google, é claro, está muito irritado com isso.

A matéria é bem interessante, principalmente porque você pode ouvir diversos registros do Google Assistente de pessoas flamengas anônimas. Sabemos há muito tempo que o Google contrata seres humanos para revisar e transcrever gravações de voz para treinar a tecnologia que faz o assistente de voz funcionar. (A Amazon e a Apple admitiram fazer o mesmo, e nós já falamos anteriormente sobre a verdade desconfortável sobre por que os seres humanos ainda são necessários para que os assistentes de voz funcionem.) Infelizmente para o Google, um desses humanos enviou uma grande quantidade dessas gravações para o VRT NWS na Bélgica e para a organização de notícias que publicou a matéria. A pessoa, que é um funcionário terceirizado do Google, também permitiu que os jornalistas vissem o software utilizado para analisar as gravações. O relato confirma o que já sabíamos, mas ouvir as gravações é um lembrete vívido de que as coisas que você diz a um assistente de voz são gravadas, armazenadas e, inevitavelmente, correm o risco de serem vazadas para hackers, governos ou organizações de notícias belgas.

O Google respondeu na quinta-feira (11) com uma publicação em seu blog que caracteriza o vazamento como uma violação de segurança. A empresa explicou o processo de revisão como algo necessário para que seus produtos funcionem bem em vários idiomas, embora o mesmo processo de revisão exista para as gravações do Assistente em inglês. Inevitavelmente, o post parece mais uma bronca:

Acabamos de saber que um desses revisores de idioma violou nossas políticas de segurança de dados vazando áudios holandeses confidenciais. Nossas equipes de Resposta de Segurança e Privacidade foram ativadas para investigar essa questão e tomaremos providências. Estamos realizando uma revisão completa de nossas defesas neste espaço para evitar que erros de conduta como esse ocorram novamente.

Eles também confirma que “cerca de 0,2% de todos os trechos de áudio” são enviados para revisores humanos. Esse número parece pequeno até você lembrar que há 1 bilhão de dispositivos que podem consultar o Google Assistente.

O mais preocupante dessa amostra do que faz o Google Assistente funcionar, no entanto, é o simples fato de que muitas gravações são feitas por acaso. Os assistentes de voz, incluindo de outras empresas, devem começar a gravar somente depois que o usuário disser uma palavra ou frase de ativação, como “Ei, Google”. No entanto, a reportagem belga diz: “O VRT NWS ouviu mais de mil trechos, dos quais 153 foram conversas que nunca deveriam ter sido gravadas e durante as quais o comando ‘Ok, Google’ claramente não foi dado”. Isso significa que talvez 10% do que o Google está gravando são coisas que não deveriam ser gravadas.

Não está claro o que vai acontecer agora. Talvez, algumas pessoas sejam um pouco mais cautelosas em relação ao Google Home, ou ao Amazon Echo, ou ao Apple HomePod, que equivalem a escutas telefônicas de acordo com alguns especialistas em privacidade. Essa analogia faz cada vez mais sentido à medida que aprendemos como esses dispositivos funcionam. O Google Home tem microfones que estão ativados por padrão e que, às vezes, gravam áudios sem o seu consentimento explícito. E então essas gravações são enviadas para um terceirizado que pode querer vazar as gravações para a imprensa. Como aconteceu agora.

Outro resultado possível, é claro, é que você jogue seu Google Home ou Amazon Echo ou Apple HomePod no oceano, grite em direção ao céu e chore na areia. Talvez este futuro não seja o que você queria ou esperava, mas é o que você tem que viver.

Sair da versão mobile