Empresa quer criar sistema de verificação para evitar que imagens sejam tiradas de contexto

Em junho deste ano, uma imagem do governador de São Paulo, João Doria, tomando vacina sem máscara começou a circular nas redes sociais, chegando a contabilizar milhares de compartilhamentos. Porém, a foto era de março, quando ainda não havia sido determinado o uso obrigatório de máscaras. O mesmo ocorreu com outras figuras políticas, como a deputada federal Joice Hasselmann (PSL-SP) e o ex-ministro da Saúde Luiz Henrique Mandetta.

Fotos de políticos sem máscaras têm se tornado populares nessa época de pandemia, mas imagens fora do contexto se espalham em praticamente todos os tipos de notícias. Não havia golfinhos no canal de Veneza; essas tropas não estavam participando do Dia D; esses motociclistas não estavam em Tulsa; esses fãs de techno não eram antimáscaras; esses bombeiros não estavam na Califórnia; esses tubarões na estrada não vieram de furacões. Basta examinar os arquivos “divulgados incorretamente” do Snopes para se ter uma ideia. Agora, uma empresa de tecnologia está propondo uma forma de nos mostrar a origem das fotos.

• Adobe quer fazer do Photoshop uma ferramenta para identificar fotos falsas
• Facebook desmantela rede de fake news com perfis que usavam fotos geradas por IA

A empresa de verificação de fotos Truepic fez parceria com a fabricante de chips Qualcomm – que fornece chips para muitos dispositivos Android – para implementar um modo “seguro” dentro do aplicativo de câmera nativo do smartphone para adicionar sua própria data, hora e localização. Esse processo resolve o problema de metadados facilmente falsificáveis, que o aplicativo da câmera normalmente extrai das configurações do dispositivo, em vez de alguma forma externa de verificação. A ferramenta da Truepic (embora acessada por meio do aplicativo da câmera) ignora o aplicativo e obtém dados de pixel diretamente do sensor da câmera (para que você saiba se uma foto não foi editada); essas marcas de localização e hora vêm via GPS e um relógio atômico mantido pelo governo, respectivamente.

Imagem: Truepic

Em outras palavras, não é uma plataforma única que você pode usar para desmascarar fotos preexistentes e deepfakes, é uma proposta de como as fotos de smartphones podem incluir algum tipo de indicador de verificação no futuro. Isso pode não ser tão complicado quanto parece, já que as plataformas estão desesperadas por tecnologia de verificação rápida.

Como os estudos mostraram, não há muito que você possa fazer em relação à obsessão do público por fotos falsas ou com legendas incorretas. Um estudo de 2018 feito por pesquisadores do MIT descobriu que a desinformação se espalha até 100 vezes mais longe e seis vezes mais rápido do que a verdade, e as falsidades políticas se espalham três vezes mais rápido do que outras informações incorretas. Outro estudo do Bureau Nacional de Pesquisa Econômica de 2018 descobriu que as informações sobre a eleição presidencial dos EUA de 2016 foram absorvidas em 50-70 minutos, muitas vezes forçando verificadores de fatos e jornalistas em uma corrida impossível contra o tempo. Em 2014, o Twitter relatou que os tuítes com fotos tiveram um aumento de 35% nos retuítes.

A solução convencional proposta para fotos com legendas enganosas ou falsas tem sido a detecção, o que, conforme a Truepic observa, não está indo muito bem. “Cada vez que você constrói um novo algoritmo de detecção, está automaticamente tornando a IA que gera uma imagem ou vídeo falso mais sofisticado”, disse Sherif Hanna, vice-presidente de pesquisa e desenvolvimento da Truepic ao Gizmodo por videoconferência. “É uma corrida armamentista invencível”. Hanna destacou que o Facebook recentemente realizou uma competição com um prêmio de US$ 1 milhão para ferramentas de reconhecimento de deepfake, e o modelo do vencedor detectou apenas deepfakes com 65,18% de precisão.

A Truepic está usando os mesmos recursos de segurança de nível de hardware nos chips da Qualcomm que já protegem impressões digitais e pagamentos digitais. (Por esse motivo, eles ainda não são capazes de fazer esse trabalho dentro do jardim murado da Apple que não permite que os desenvolvedores mexam nas configurações básicas.) “Vamos obter isso diretamente dos sensores da câmera, com segurança”, Hanna disse. “E então criar aquela impressão digital, uma assinatura digital que protege a imagem”.

Todos precisam usar a ferramenta para que isso funcione, mas existem muitos incentivos para os fabricantes de dispositivos adicioná-la e para os consumidores usarem. Mounir Ibrahim, vice-presidente de iniciativas estratégicas da Truepic, disse ao Gizmodo que a empresa atraiu o interesse não apenas de jornalistas, mas também dos setores de fintech e seguros, bancos, construtoras e indústria automobilística. Ele pode imaginar um futuro em que uma marca de verificação aparecerá ao lado das fotos em seu perfil do Airbnb, no perfil de aplicativos de encontro ou na página da loja Amazon. Ibrahim acredita que as ferramentas de verificação de imagem podem ser quase tão essenciais para a condução dos negócios quanto o e-mail.

Não está claro como uma foto verificada pela Truepic pode parecer para um usuário do Airbnb procurando certificar-se de que o anúncio é real. E eles vão ter que planejar a exibição de verificação estrategicamente, de modo a não descartar truques à moda antiga: a foto de uma foto, uma estátua de papelão, talvez. “Uma das coisas que não queremos fazer, por exemplo, é colocar uma marca de verificação verde bem na foto ou um X vermelho”, disse Hanna ao Gizmodo. “Não queremos dar às pessoas carta branca automática para dizer, oh, OK. Há uma marca de seleção verde, então tudo que está nas fotos é absolutamente real. A cena à sua frente pode ter sido montada. Portanto, temos que criar o sinal com cuidado”.

Hanna e Ibrahim preveem que o modo “seguro” pode estar disponível comercialmente em alguns dispositivos em 12 a 18 meses. Mas eles reconhecem que a implementação generalizada, atualização de plataformas para que a verificação possa ser exibida, é um projeto muito mais longo. “Os navegadores da web teriam que ser atualizados, os aplicativos da galeria teriam que ser atualizados etc.”, disse Hanna. “Vai dar trabalho. Esperamos que esta seja uma jornada de cinco, dez anos antes de ser completamente difundida”.