Criado algoritmo que detecta vídeos deepfake com 98% de acerto

Com o surgimento de IA (Inteligência Artificial) generativa que consegue criar vídeos extremamente realistas, como o Sora e o Kling AI, o risco de desinformação por deepfake é maior.

• Kling AI: China lança app revolucionário de produção de vídeo por IA

As ferramentas atuais falham em identificar vídeos deepfake de IA generativa, então a melhor forma é combater IA com IA.

Pesquisadores da Universidade de Drexel, da Filadélfia (EUA), desenvolveram um algoritmo chamado “MISLnet” que consegue detectar vídeos deepfake com uma precisão de 98%.

Em um estudo publicado na última semana, os pesquisadores comentam sobre a dificuldade das ferramentas atuais para identificar vídeos gerados por IA. Ressaltando a necessidade de um método novo.

Esse algoritmo, segundo o estudo, focou em um método de detecção de conteúdo falso gerado por IA que teria as mesmas características únicas de vídeos de IA generativa. 

Portanto, eles utilizaram algoritmos de machine learning, especificamente os de rede neural convolucional (CNN) para identificar padrões sutis, ou “impressões digitais” em vídeos deepfake de IA generativa.

O MISLnet é um tipo de CNN. E demonstrou uma capacidade de adaptação impressionante, de acordo com os criadores.

Algoritmo identifica deepfake de IAs desconhecidas

Graças ao treinamento de machine learning que os pesquisadores usaram, consegue diferenciar valores normais e anormais em um nível subpixel de imagens e vídeos. O algoritmo conseguiu, assim, com pouco treinamento, detectar vídeos deepfake de IAs generativas desconhecidas.

Conforme o estudo, esse potencial de adaptação é “crucial” para o ambiente de evolução constante da IA generativa, pois, diariamente, surge um novo gerador de vídeo. 

Com essa rápida adaptação, o algoritmo pode continuar a aprender e se adaptar a novas tecnologias, se mantendo “fora da curva”, efetivamente detectando e identificando vídeos deepfake mesmo com suas tecnologias evoluindo.

A Universidade de Drexel afirma que os resultados dessa pesquisa são de enorme importância social. Pois, conforme as tecnologias de vídeos de IA generativa evoluem, a ameaça de desinformação por deepfake está mais presente do que nunca.

“Embora os mecanismos de detecção não devam ser a única forma de combate à desinformação. Ter a capacidade tecnológica para verificar a autenticidade da mídia digital é, certamente, um passo importante”, diz a universidade em nota.