Seu próximo carro poderá estar de olho mais em você do que na estrada

Quando você pensa em inteligência artificial e carros, a primeira coisa que provavelmente vem à mente são os ambiciosos projetos de veículos autônomos de gigantes da tecnologia como Google, Uber e provavelmente Apple. A maioria dessas empresas está alavancando a IA para criar carros que possam entender seus ambientes e navegar nas estradas sob diferentes condições e, assim esperamos, tornar a condução mais segura. Eventualmente. Algum dia. Provavelmente.

O que recebeu menos atenção é o uso de IA dentro dos carros. Graças aos avanços em deep learning, tornou-se possível o desenvolvimento de tecnologias que podem determinar o que está acontecendo dentro dos veículos e tornar a viagem mais segura e agradável — ao mesmo tempo em que criam novos riscos de privacidade e segurança.

Para melhor ou pior, muitas aplicações de IA para o setor automobilístico estão bem debaixo do nosso nariz. Em um futuro próximo, você pode esperar que os carros ajudem a detectar motoristas distraídos, tenham mais consciência de seu verdadeiro dono e ajudem a melhorar a experiência de condução, ajustando o ambiente do carro às preferências de seus passageiros. Mas, como sabemos muito bem, os avanços tecnológicos têm seu preço.

Segurança em primeiro lugar

“Estar ‘ciente’ do ambiente dentro do carro é uma proposta mais próxima do que carros autônomos completamente autônomos — o motivo é o menor risco da operação”, diz Emrah Gultekin, CEO da Chooch, uma empresa de visão computacional.

Atualmente, o que temos em grande parte é IA restrita, algoritmos que podem executar tarefas limitadas muito bem, mas não são muito boas em lidar com ambientes abertos. Uma IA capaz de entender e lidar com as incertezas das estradas abertas pode estar a anos de distância. Mas dentro do carro há um espaço muito mais limitado, o que o torna adequado para IA limitada.

“Usar a IA para entender o que está acontecendo com pessoas em veículos é relevante não apenas para veículos autônomos do futuro, mas também para carros nas ruas hoje”, diz Rana el Kaliouby, CEO e cofundadora da Affectiva, uma empresa que usa a IA para medir emoções humanas.

“Essas empresas podem usar seus sistemas de IA para nos mostrar anúncios segmentados e nos manipular com o objetivo de nos controlar de todas as maneiras, de acordo com a visão da empresa.”

As câmeras veiculares equipadas com algoritmos de visão computacional podem executar tarefas complexas, como analisar o estado de motoristas e passageiros e detectar suas interações com diferentes objetos. “Isso permite que os fabricantes de automóveis, operadores de frota e empresas de compartilhamento de carona construam mobilidade de última geração que se adapta a estados humanos complexos, com o objetivo de melhorar a segurança nas estradas e oferecer experiências de transporte melhores e mais personalizadas”, diz el Kaliouby.

A Affectiva diz que desenvolveu um sistema de IA capaz de detectar várias expressões e emoções nos rostos humanos. No início deste ano, a empresa levantou US$ 26 milhões para aplicar sua tecnologia de detecção de objetos e emoções em carros. A empresa espera que sua tecnologia entre na fase de produção nos próximos dois a três anos.

Ela deve funcionar assim: uma câmera instalada perto do volante monitora o comportamento do motorista. A IA da Affectiva mede a frequência e a duração de piscadas dos olhos para determinar se um motorista está sonolento e sinaliza um aviso, recomendando tocar música, alterar a temperatura ou encostar o carro.

A IA também está sendo desenvolvida para detectar distrações, como quando os motoristas estão mandando mensagens, comendo, falando ao telefone ou virando a cabeça para conversar com os passageiros. Esse recurso pode estar associado a outras tecnologias de segurança rodoviária, como o controle automático de faixa.

A IA também poderia garantir em breve que apenas determinadas pessoas consigam entrar no carro. “A capacidade de um carro em detectar motoristas conhecidos é um importante recurso de segurança dos veículos no futuro próximo. Combinar rostos com cartões de identidade dentro de um veículo é a chave para isso”, diz Gultekin.

A Chooch está desenvolvendo um sistema de reconhecimento facial para detectar os legítimos proprietários de carros. Quando alguém quer alugar um carro, a pessoa deve segurar o passaporte e mostra o rosto para a câmera do carro. A IA incorporada no veículo usa o reconhecimento facial para identificá-los e garantir que a pessoa certa esteja sentada atrás do volante.

Gultekin diz ainda que, examinando os passageiros do carro e suas atividades, os algoritmos de IA podem regular seu ambiente. “Isso se aplica a tudo, desde luzes internas de ajuste automático, até trancar portas e alterar o volume da música em condições perigosas de direção”, diz ele. “Um carro pode ser alertado ou até desacelerar quando houver linguagem ameaçadora ou xingamentos no carro. Quando crianças são detectadas na parte de trás de um carro, o veículo pode trancar automaticamente as janelas e portas ou mudar o canal para a programação infantil.”

O futuro do deslocamento ao trabalho

“Uma pergunta em que nós e nossos parceiros motorizados passamos muito tempo pensando é: em veículos da próxima geração — sejam carros com recursos semi-autônomos, ônibus robotizados ou transportes compartilhados, como as pessoas vão querer gastar seu tempo?”, diz el Kaliouby. “Alguns vão querer trabalhar, outros podem preferir relaxar, assistir a conteúdo, dormir ou socializar com outras pessoas no carro.”

É aqui que a IA pode ajudar, sugere el Kaliouby, fornecendo uma análise profunda das emoções e estados cognitivos dos passageiros e suas interações entre si e com os sistemas internos.

Durante a CES de 2019, a Hyundai Kia apresentou a tecnologia READ (Real-time Emotion Adaptive Driving), uma cabine interativa com inteligência artificial que reage e se ajusta ao estado emocional dos passageiros. O sistema utiliza câmeras e sensores para ler a expressão facial, frequência cardíaca e atividade eletrodérmica dos passageiros. Em seguida, adapta o ambiente interior de acordo com sua avaliação para criar uma experiência de mobilidade mais agradável.

“A Emotion AI pode fornecer um entendimento das preferências das pessoas e otimizar o ambiente na cabine para oferecer uma experiência personalizada”, diz el Kaliouby.

Esse sentimento estranho

Se tudo isso soa como uma receita para o desastre, é porque já tem todos os ingredientes.

Um dos desafios do desenvolvimento da IA ​​é o viés algorítmico, a tendência dos algoritmos de aprendizado profundo a captar vieses evidentes e velados contidos em seus conjuntos de dados de treinamento. Por exemplo, um algoritmo de aprendizado profundo treinado em muitos rostos brancos se tornará menos preciso na detecção de rostos com tons de pele mais escuros. O viés algorítmico pode levar à discriminação contra dados demográficos que não estão bem representados nos dados de treinamento.

Reconhecendo isso, a Affectiva analisou mais de 8,5 milhões de faces em 87 países. “Isso ajuda a garantir que nossos algoritmos funcionem com alta precisão, independentemente da idade, sexo e etnia”, diz el Kaliouby. “O viés atenuante na IA é fundamental para garantir que a tecnologia funcione em um mundo global.”

Além disso, como outras aplicações de aprendizado profundo, a construção de sistemas de IA que podem monitorar e determinar o que está acontecendo dentro de um veículo exige grandes quantidades de dados. As empresas coletam e armazenam dados do usuário em seus servidores, onde os executam através de seus algoritmos de IA.

Nos últimos anos, houve vários casos em que a coleta de dados do consumidor resultou em escândalos de privacidade. Por exemplo, no ano passado, surgiram as notícias de que o assistente Alexa da Amazon gravou acidentalmente uma conversa particular de um casal de Oregon e a enviou a uma pessoa aleatória em sua lista de contatos.

“O viés atenuante na IA é fundamental para garantir que a tecnologia funcione em um mundo global.”

Também houve vários casos em que as empresas disponibilizaram dados de usuários para terceirizados sem avisar explicitamente. As empresas costumam contratar esses funcionários para anotar dados do usuário, que eles usam para treinar seus algoritmos de IA.

Uma solução que várias empresas estão explorando é o “edge AI”, um hardware especializado que pode executar algoritmos de aprendizado profundo localmente, sem precisar de um link para a nuvem. O edge AI evita a necessidade de enviar dados para a nuvem e armazená-los nos servidores da empresa.

“Reconhecemos que as emoções e os estados das pessoas são extremamente pessoais”, afirma el Kaliouby, explicando que a tecnologia da Affectiva é executada localmente em sistemas embarcados de nível automotivo. “Ela não exige que dados sejam enviados para a nuvem”, acrescenta ela.

O edge AI também pode melhorar a segurança dos veículos movidos a IA. “Ainda existe um grande medo de que os carros possam ser invadidos e sequestrados por pessoas mal-intencionadas”, diz Gultekin. A segurança dos carros conectados à Internet se tornou uma grande preocupação nos últimos anos. Os pesquisadores mostraram que, com recursos suficientes, é possível invadir carros e causar danos aos passageiros.

“A maneira de superar isso em um ambiente arriscado, como dirigir, é desconectar completamente o veículo do processamento na nuvem durante a condução. É por isso que a IA, na maioria das vezes, precisa funcionar em edge”, diz Gultekin.

Mas ainda há receios de que as empresas de tecnologia possam usar seus dados para outros fins sinistros. “Precisamos pensar cuidadosamente sobre o significado dos direitos fundamentais e como protegê-los à luz do desejo contínuo de eficiência”, alerta Bernhardt Trout, professor de engenharia química que ministra um curso de ética em IA no Instituto de Tecnologia de Massachusetts. “Essas empresas podem usar seus sistemas de inteligência artificial para nos mostrar anúncios segmentados e nos manipular com o objetivo de nos controlar de todas as maneiras, de acordo com a visão da empresa.”

Trout descreve cidades e carros inteligentes movidos a IA como “sendo totalmente eficazes no controle do comportamento dos usuários” e potencialmente abrindo caminho para a “vigilância no estilo de Stalin”.

“A diferença é que Stalin não conseguia ler nossas mentes”, diz ele.

No futuro, a transparência desempenhará um papel importante na construção da confiança nos sistemas de IA que lentamente se infiltrarão em nossos carros — se optarmos por confiar nisto. El Kaliouby enfatiza que as montadoras e os provedores de serviços de mobilidade devem ter clareza sobre a tecnologia de detecção na cabine e educar os consumidores sobre o que a tecnologia faz, quais dados ela coleta e como armazena e usa esses dados.

“Acreditamos firmemente na necessidade de aceitação e consentimento claros para ajudar a construir a confiança do consumidor com essa tecnologia”, diz el Kaliouby. “Qualquer IA projetada para interagir com humanos deve ser avaliada em relação às implicações éticas e de privacidade para essas tecnologias.”