Escolas estão usando IA para checar redes sociais de estudantes em busca de sinais de violência
Na esperança de dissuadir a violência, escolas nos Estados Unidos estão recorrendo à análise de big data para examinar posts nas redes sociais em busca de primeiros sinais de violência — depressão, ressentimento e isolamento. A Escola Técnica de Shawsheen Valley, em Massachusetts, se voltou para a Social Sentinel, uma empresa de análise de dados […]
Na esperança de dissuadir a violência, escolas nos Estados Unidos estão recorrendo à análise de big data para examinar posts nas redes sociais em busca de primeiros sinais de violência — depressão, ressentimento e isolamento. A Escola Técnica de Shawsheen Valley, em Massachusetts, se voltou para a Social Sentinel, uma empresa de análise de dados que diz poder usar o tipo de detecção de ameaças que as agências policiais usam para identificar estudantes em risco. Mas os especialistas temem que a mineração de mídias sociais de estudantes, mesmo com as melhores intenções, seja um caminho equivocado para tratar os estudantes da maneira como tratamos os suspeitos.
Conversando com a WBUR, afiliada da NPR, o fundador e CEO da Social Sentinel, Gary Margolis, diz que a empresa trabalhou com linguistas e psicólogos para treinar sua inteligência artificial em cima de cartas de estudantes que posteriormente vieram a machucar a si mesmos ou os outros. Margolis diz ter criado uma biblioteca com 450 mil indicadores que possam disparar alarmes.
“Voltamos, por exemplo, e observamos a linguagem que os atiradores de escola, como um exemplo, usaram no passado em diversos manifestos — o que foi publicado ou que eles mesmo compartilharam nas redes sociais”, disse Margolis. “E viemos a entender similaridades e padrões. E podemos ensinar os computadores, até certo ponto, como identificar parte dessa nuance.”
Os estudantes da matéria da WBUR supostamente não tinham ideia de que a escola estivesse usando o serviço da Social Sentinel, mas frequentemente posts nas redes sociais são abertos a pelo menos algum tipo de análise de metadados sem as pessoas perceberem. A complexidade dessa análise significa que o serviço, idealmente, sinaliza contas antes de que quaisquer ameaças explícitas sejam feitas, permitindo à escola intervir com serviços sociais.
“Não somos uma ferramenta de vigilância; não somos uma ferramenta de monitoramento; não somos uma ferramenta investigativa”, disse Margulis.
A Shawsheen Valley não é a única escola a tentar essa abordagem. O sistema educacional de Miami-Dade exigiu US$ 30 milhões em fundos estatais para renovar seu sistema de segurança, incluindo a contratação de funcionários para fazer investigações nas redes sociais. Escolas do Condado de Wilson, no Tennessee, também usam um software de monitoramento de redes sociais que envia alertas quando palavras-chave problemáticas são detectadas, enquanto outra escola em Fresno, na Califórnia, está revisitando o problema depois de, inicialmente, decidir que era invasivo demais.
Embora todos estejamos atrás de abordagens proativas e preventivas para a crise de tiroteios em escolas, muitos estão preocupados com a vigilância cada vez maior para deter a violência armada. Em Nova York e na Flórida, escolas estão fazendo vigilância 24 horas por dia, sete dias por semana, reconhecimento facial e combinação de banco de dados biométricos, leitores de placas de carros, todas essas tecnologias desenvolvidas para a polícia e para agências de contraterrorismo. A Social Sentinel trabalhou diretamente com departamentos de polícia antes de abrir seus serviços às escolas.
Margulis admite que existem falsos positivos, quando alguém é sinalizado mesmo sem representar um risco, mas, de maneira importante, também podem haver falsos negativos — estudantes considerados não particularmente dignos de nota pela inteligência artificial e que posteriormente cometem atos violentos. Especialistas estão preocupados que usar essa tecnologia em escolas vá apenas replicar os desequilíbrios que vemos quando essas ferramentas são usadas no policiamento público.
“Essa é uma expansão da capacidade das escolas de policiar o que estudantes estão fazendo dentro da escola ou no campus até a sua conduta fora da escola”, diz Kade Crockford, que dirige o programa Technology for Liberty, na União Americana pelas Liberdades Civis de Massachusetts. “Em muitos casos no país, escolas têm usado ferramentas de vigilância de redes sociais de maneiras que já causaram danos, especificamente a estudantes de cor. Então, nós certamente temos preocupações com tecnologias como essa sendo usadas para expandir o que chamamos de canalização escola-prisão.”
A Social Sentinel se recusou a oferecer números específicos sobre sua taxa de acertos, mas Margulis diz que os educadores os agradeceram pelo serviço de descobrir e entrar em contato com os estudantes que mais precisam.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
