Previa: Uma nova ferramenta desenvolvida na Alemanha promete detectar deepfakes com uma precisão de até 91%. Além de identificar imagens falsas, ela também explica o porquê da classificação, utilizando inteligência artificial explicável.
Detectar deepfakes é um desafio crescente na era digital, onde a manipulação de imagens e vídeos se torna cada vez mais sofisticada. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, apresentaram uma solução inovadora: a RealorRender. Com uma taxa de detecção variando entre 85% e 91%, a ferramenta se destaca por sua capacidade de explicar as razões por trás da classificação de uma imagem como falsa.
Como funciona
A RealorRender utiliza uma abordagem híbrida que combina dois métodos distintos. Primeiro, um gerador de imagens de inteligência artificial tenta reconstruir a imagem analisada. Se a reconstrução for bem-sucedida, isso indica uma maior probabilidade de que a imagem original tenha sido criada por outra IA, já que uma inteligência artificial tende a replicar mais facilmente o que outra já produziu.
Após essa etapa, um modelo de classificação calcula o erro de reconstrução e fornece uma estimativa de autenticidade em porcentagem. Segundo Andreas Specker, cientista sênior do Fraunhofer IOSB, essa metodologia permite uma análise mais precisa e confiável das imagens.
O que diferencia: a explicação
Um dos principais diferenciais da RealorRender é sua capacidade de explicar as decisões tomadas. A ferramenta utiliza métodos de inteligência artificial explicável (XAI) para mostrar quais características levaram à classificação de uma imagem como falsa. Isso é fundamental para aumentar a confiança em suas análises.
A ferramenta emprega duas formas de visualização: mapas de calor, que destacam as áreas da imagem que mais influenciaram a decisão do modelo, e análise por segmentos, que identifica partes específicas da imagem, como rostos ou fundos, que podem indicar sua origem artificial.
Por que isso importa
A relevância da RealorRender é evidente diante do crescimento alarmante de fraudes envolvendo deepfakes. Em 2025, estima-se que essas fraudes tenham gerado perdas superiores a US$ 1,5 bilhão globalmente. Além disso, uma investigação de 2023 revelou a existência de mais de 276 mil deepfakes sexuais em um único site, com a maioria das vítimas sendo mulheres.
Com a dificuldade humana em distinguir entre imagens autênticas e falsificações, ferramentas automáticas que oferecem explicações são essenciais. Isso é especialmente importante para jornalistas, plataformas de redes sociais e agências de segurança, que precisam justificar suas decisões de moderação.
Quem pode usar
A RealorRender está sendo integrada a um demonstrador que auxiliará inicialmente o Escritório Federal Alemão de Segurança da Informação (BSI) na detecção de deepfakes. O processo é simples: o usuário faz o upload da imagem e recebe não apenas o resultado da detecção, mas também uma explicação detalhada e um resumo em texto.
Os pesquisadores já publicaram dois relatórios sobre o projeto, que tem potencial de aplicação em diversas áreas, incluindo segurança pública, redes sociais, empresas de mídia e agências de fotografia. A inovação promete ser um passo importante na luta contra a desinformação e a manipulação digital.
