Categorias: Cibersegurança

Pesquisadores fazem Alexa obedecer comandos ocultos em falas, músicas e até cantos de pássaros

A Alexa, assistente virtual da Amazon que habita diversos produtos, como os alto-falantes Echo, é uma das coisas mais futurísticas que a tecnologia nos entregou até hoje. O problema é que, às vezes, ela lembra os momentos mais assustadores da ficção científica, dando risadas malignas aleatórias ou dizendo sem nenhum motivo aparente coisas macabras. A coisa fica ainda pior com uma recente descoberta de pesquisadores alemães: eles dizem que é possível esconder comandos para a inteligência artificial em áudios aparentemente banais, como falas, músicas e até passarinhos cantando.

• Um Amazon Echo gravou conversa entre casal e a enviou para outro usuário
• Siri e Alexa podem ser controladas utilizando mensagens subliminares escondidas em músicas

Os cientistas da Universidade de Ruhr em Bochum descobriram uma maneira de colocar ruídos ocultos imperceptíveis ao ouvido humano, mas que podem disparar todo tipo de ação por assistentes virtuais que atendem comandos de voz.

Para isso, eles lançaram mão de um recurso chamado “efeito de máscara”. Segundo a pesquisadora Dorothea Kolossa, ele se baseia na teoria psicoacústica da audição, que diz que, quando ouvimos um som muito alto de uma certa frequência, deixamos de perceber outros de frequências diferentes por alguns milissegundos. Assim, não percebemos os ruídos que disparam os comandos. Só que eles estão lá, e as inteligências artificiais são programadas para ouvir tudo, então elas podem ouvi-los e obecedê-los.

Ainda não se tem notícia de nenhum ataque que tenha explorado essa possibilidade, mas os cenários previstos pela Fast Company são bastante preocupantes.

Ataques podem ser tocados em um app, por exemplo, ou em um comercial de TV ou programa de rádio. Assim, eles poderiam hackear milhares de pessoas — e, potencialmente, fazer compras ou roubar informações privadas. “No pior caso, um malfeitor pode ter a possibilidade de tomar o controle do sistema de smart home inteiro, incluindo sistemas de alarme e câmeras de segurança”, escrevem os autores.

Os áudios de exemplo dão uma boa dimensão disso. Em um deles, o comando oculto é “desativar câmera de segurança e destrancar a porta da frente”. Por garantia, você pode colocar uma senha na Alexa para confirmar ações mais sensíveis, mas essa opção vem desativada por padrão.

O estudo testou apenas entradas diretas dos arquivos de áudio na inteligência artificial. Os pesquisadores garantem, porém, que o efeito deve ser o mesmo ao ouvir o mesmo trecho sendo tocado por um alto-falante, por exemplo.

Em resposta à Fast Company, a Amazon disse que leva as questões de segurança a sério e está analisando as descobertas dos pesquisadores.

[Fast Company]

Giovanni Santa Rosa

Compartilhar
Publicado por
Giovanni Santa Rosa

Posts Recentes

Prefeitura de São Paulo desiste de bandeira 3 de táxi na saída de grandes eventos

Atualização [11/11]: A Folha de S.Paulo noticia que a Prefeitura revogou a bandeira 3 por causa da repercussão ruim da…

11 de novembro de 2019

HP Elite Dragonfly é um notebook conversível que pesa menos de 1 kg e custa bem caro

O HP Elite Dragonfly é um notebook da marca focado no mercado corporativo. Ele é bastante leve e cheio de…

11 de novembro de 2019

Homem vende buzina de pedestres para locais movimentados por US$ 699

Yosef Lerner criou o Pedestrian Horn para cidades movimentadas, cheias de turistas, e está vendendo em seu site pessoal por…

11 de novembro de 2019

Avião cai após tentar despejar mais de mil litros de água em chá de revelação

O ritual cada vez mais popular de chá de revelação continua a gerar casos praticamente inexplicáveis, que colocam vidas em…

11 de novembro de 2019

‘Caramba, sou uma hospedeira’: como é ter vermes parasitas em seus olhos

Não é todo dia que você se transforma numa personagem de um caso médico curioso. Foi exatamente isso o que…

11 de novembro de 2019

O Gizmodo Brasil agora está no app de notícias Squid

Acompanhar notícias pode ser uma tarefa complexa, pois temos muitas fontes de conteúdo e às vezes fica difícil saber o…

11 de novembro de 2019