_Cibersegurança

Como vamos evitar que hackers invadam nossos cérebros quando formos ciborgues

Os avanços rápidos na interface cérebro-máquina e na neuroprótese estão revolucionando a maneira como tratamos pessoas com paralisia, mas as mesmas tecnologias podem eventualmente serem colocadas em usos mais generalizados — um desenvolvimento que transformaria muitos de nós em verdadeiros ciborgues. • A OTAN está considerando o Petya um potencial ato de guerra • Hackers fizeram uma arma […]

Os avanços rápidos na interface cérebro-máquina e na neuroprótese estão revolucionando a maneira como tratamos pessoas com paralisia, mas as mesmas tecnologias podem eventualmente serem colocadas em usos mais generalizados — um desenvolvimento que transformaria muitos de nós em verdadeiros ciborgues.

• A OTAN está considerando o Petya um potencial ato de guerra
• Hackers fizeram uma arma que causa blecautes, e ela pode funcionar em qualquer lugar

À espera de nosso futuro ciborgue, pesquisadores do Wyss Center for Bio and Neuroengineering, em Genebra, na Suíça, publicaram um novo estudo de Fórum de Políticas na Science, intitulado: “Ajuda, esperança e hype: Dimensões éticas da neuroprótese“. A intenção dos autores é criar conscientização sobre esse novo ramo de neurotecnologias e as várias maneiras como elas podem ser usadas. É importante notar que os pesquisadores criaram algumas maneiras de amenizar potenciais problemas antes que eles surjam.

Sem dúvidas, o trabalho no campo da neurotecnologia está prosseguindo em um bom ritmo. Os pesquisadores estão desenvolvendo interfaces cérebro-máquina (BMIs, na sigla em inglês) que estão possibilitando que tetraplégicos recuperem o uso de suas mãos e dedos, que amputados movam próteses de membros simplesmente usando os pensamentos e que pacientes com doenças degenerativas transmitam mensagens com suas mentes. Incrivelmente, paraplégicos usando exoesqueletos robóticos agora conseguem chutar uma bola de futebol, e macacos começaram a controlar cadeiras de rodas com sua mente. Interfaces de comunicação de cérebro para cérebro (BBIs, na sigla em inglês) estão permitindo aos gamers controlar os movimentos de outros jogadores e jogar um jogo de 20 perguntas sem pronunciar uma palavra sequer. A cada avanço, estamos aprendendo um pouco mais sobre o cérebro e como ele funciona. Mais importante ainda, essas ferramentas estão devolvendo ação e independência a indivíduos amputados e paralisados.

Hora de cumprimentar o futuro: robôs controlados pelo cérebro como esse acima estão começando a entrar na vida cotidiana (Imagem: Wyss Center)

Mas também há um lado sombrio nessas tecnologias. Como o diretor do Wyss Center, John Donoghue, aponta no novo Fórum de Políticas, questões éticas sérias estão surgindo em torno desse campo, e não é cedo demais para começar a pensar em maneiras como a neuroprótese e as interfaces cérebro-máquina podem ser usadas.

“Embora ainda não entendamos completamente como o cérebro funciona, estamos nos aproximando de conseguir decodificar de forma confiável certos sinais cerebrais. Não deveríamos ser complacentes sobre o que isso pode significar para a sociedade”, disse Donoghue, em um comunicado. “Devemos considerar cuidadosamente as consequências de viver ao lado de máquinas semi-inteligentes controladas pelo cérebro e devemos nos preparar com mecanismos para garantir seu uso seguro e ético.”

O Wyss Center está preocupado que, conforme esses neurodispositivos entram cada vez mais em nossos mundos, os usos para essas ferramentas aumentem em potência e escopo. Atualmente, as BMIs estão sendo usados para pegar copos ou digitar palavras em uma tela, mas eventualmente esses dispositivos podem ser usados por trabalhador de emergência consertando um perigoso vazamento de gás, ou uma mãe carregando seu bebê enquanto ele chora.

Uma touca de eletroencefalografia não invasiva para medir a atividade cerebral em um participante de estudo (Imagem: Wyss Center)

Se algo der errado nesses casos — como esse robô semi-autônomo virando a chave errada para parar o vazamento de gás, ou a mãe derrubando o bebê —, é importante se perguntar onde a responsabilidade começa e termina e quem é o responsável. Leis futuras terão que discernir se o fabricante é responsável (por exemplo, um problema no design) ou o usuário (por exemplo, mau uso deliberado ou a adulteração do design projetado do produto). Para amenizar esses problemas, os autores propõem que qualquer sistema semi-autônomo deve incluir uma forma de “controle de veto”, ou seja, uma parada de emergência que possa ser executado pelo usuário para superar carências na interação direta cérebro-máquina. Se uma prótese de membro começar a fazer algo não pretendido pelo usuário, esse interruptor iria parar imediatamente as atividades.

Outras áreas de preocupação incluem a segurança e a privacidade, além da eventual necessidade de proteger quaisquer dados biológicos sensíveis que estejam registrados por esses sistemas. Quando as BMIs estão funcionando, elas coletam vários dados neurológicos, que são transmitidos para um computador. Isso naturalmente levanta preocupações com privacidade, e os pesquisadores do Wyss Center estão preocupados que essa informação possa ser roubada e mal usada.

“A proteção de dados neuronais sensíveis de pessoas com paralisia completa que usam um BMI como seu único meio de comunicação é particularmente importante”, disse Niels Birbaumer, pesquisador sênior do Wyss Center. “A calibração bem-sucedida do BMI depende das respostas cerebrais a perguntas pessoais fornecidas pela família (por exemplo: ‘O nome da sua filha é Emily?’). A proteção rígida de dados deve ser aplicada a todas as pessoas envolvidas, o que inclui a proteção das informações pessoais feitas nas questões, bem como a proteção de dados neuronais para garantir que o dispositivo funcione corretamente.”

De forma assustadora, os pesquisadores da Wyss também se preocupam com alguém hackeando um dispositivo conectado ao cérebro – um ato que poderia literalmente ameaçar a vida do usuário. Conhecido como “brainjacking”, isso envolveria a manipulação maliciosa de implantes cerebrais. Os hackers poderiam entrar e controlar os movimentos de uma pessoa.

As possíveis soluções para esses problemas incluem criptografia de dados, ocultação de informações, segurança de rede e comunicação aberta entre fabricantes e usuários. No entanto, será um desafio implementar muitas dessas medidas propostas, devido à falta de padrões consistentes nos países. Mas, como apontam os pesquisadores do Wyss, agora é uma hora excelente para começar a pensar em maneira de melhorar a coordenação e os padrões da indústria.

“Algumas das preocupações levantadas pelos autores podem um dia se tornar problemas reais, portanto é prudente pensar nelas com alguma antecedência”, disse Adam Keimer, membro do Ethics and Public Policy Center e editor da The New Atlantis, em entrevista ao Gizmodo. “Mas essas não são preocupações grandes agora.”

Keiper, que não esteve envolvido no estudo do Fórum de Políticas, é cético quanto à ideia de que alguém deseje invadir o BMI de uma pessoa profundamente incapacitada ou uma interface cérebro-máquina usada para “treinamento cerebral” de neurofeedback (ou seja, programas que usam scanners de cérebro não invasivos, como o EEGS, para treinar pessoas para gerenciar comportamentos, reduzir o estresse, meditar etc). “O que um hacker ganharia com isso?”, ele perguntou. “Portanto, as preocupações sobre segurança e privacidade podem ser importantes no futuro, mas elas ainda não importam.”

Ele acrescenta que as preocupações sobre BMIs e robôs semi-autônomos são uma variação interessante nos pontos que estão sendo levantados sobre questões de robôs — questões com as quais “advogados muito inteligentes provavelmente vão fazer uma fortuna resolvendo”, disse. Quanto às prescrições propostas, Keiper disse que a maioria faz sentido, mas, na sua visão, algumas são francamente bobas. “Os autores dizem que deveríamos ‘encorajar a melhoria da alfabetização em saúde e da alfabetização em neurologia na sociedade mais ampla'”, afirmou. “Dá um tempo.” Keiper é cético quanto ao público achar interessante essas questões mais pesadas e misteriosas da pesquisa.

Porém, como Keiper admite, frequentemente é difícil saber quando é a hora certa de começar a ventilar publicamente preocupações éticas e de política sobre as tecnologias emergentes. “Existe sempre o risco de falar prematuramente – como aconteceu com os “nanoéticos”de uma década atrás, que, pensando que a nanotecnologia avançada chegaria de forma iminente, tentaram construir uma disciplina acadêmica com suas preocupações”, disse. “Neste caso, acho que os autores deveriam ser aplaudidos por suscitar suas preocupações de maneira não alarmista e relativamente modesta.”

De fato, os pesquisadores do Wyss estão trazendo uma questão importante. Eventualmente, muitas dessas tecnologias vão se espalhar para o mainstream, servindo como dispositivos capacitantes para aqueles que não são deficientes. BMIs não invasivas poderiam ser usadas para criar um tipo de conexão telecinética com o nosso ambiente, em que usamos nossos pensamentos para ligar as lâmpadas ou mudar os canais na televisão. Um dia, essas mesmas tecnologias podem até mesmo resultar em telepatia possibilitada tecnologicamente. Como os pesquisadores do Wyss apontam apropriadamente, o potencial para o abuso não é trivial, e é melhor a gente começar a pensar nisso agora.

[Science]

Sair da versão mobile