Algoritmo do Google descobre esquema de furto de carros na China por acidente

Todo filme de ficção científica sobre invenções que tomam o controle do planeta parte de uma premissa que nunca muda: o momento em que a tecnologia faz algo que seus criadores não previram. Como o Verge relata, foi exatamente isso que aconteceu com engenheiros do Google em 2010, com uma reviravolta digna dos cinemas — o software do AdWords expôs um scam de roubo de carros na China.

AdWords é a máquina de dinheiro do Google, usando seus hábitos de navegação para direcionar anúncios no seu navegador. Para evitar que esses anúncios descambem para um festival de spam, o AdWords usa um filtro algorítmico para filtrar anúncios falsos e tentativas de phishing. Porém, como explica o texto, depois de uma atualização em 2010, o AdWords começou a reportar anúncios de carros usados chineses. Os engenheiros do Google ficaram perplexos — o sistema fora projetado para bloquear anúncios de bolsas falsificadas, não Hondas.

O que os engenheiros pensaram ser um erro era, na realidade, o software indo além da capacidade dos seus criadores humanos. Os carros detectados não eram falsificados, mas os anúncios faziam parte de um esquema de fraudes offline:

“Os scammers tiravam fotos de carros nas ruas e quando um consumidor ingênuo aparecia alguns dias depois oferecendo dinheiro, eles furtavam o carro e o entregavam. Quando o consumidor se tocava de que tinha comprado um produto furtado, os vendedores já estavam longe — levando junto o dinheiro.”

O que levou o AdWords a detectar um crime onde seus criadores só viam uma relação de negócios? O algoritmo toma decisões baseado em milhares de fatores, mas é possível que transações de alto valor em contas recém-criadas tenham criado um padrão de fraudes detectável. Parece bem simples, mas é fascinante e talvez um pouco assustador constatar que o software do Google é tão bom a ponto de ser capaz de dedurar fraudes que acontecem fora da Internet, nas ruas da China. Para ler a história na íntegra, em inglês, dê um pulo no Verge. E se você for um ladrão, online ou offline, lembre-se de que o AdWords tem recursos bem peculiares para combater o crime. Recursos que o transformam em um tormento para pessoas como você. [The Verge. Imagem: Shutterstock]