Deepfakes estão sendo usados para uma ampla gama de propósitos, inclusive no contexto de campanhas de desinformação, e está cada vez mais difícil detectar essas imagens editadas.
Como esta IA detecta imagens Deepfake?
Mas há uma nova ferramenta de IA para detectar aqueles vídeos falsos, ela verifica a luz refletida nos olhos.
O projeto foi criado por uma equipe de cientistas da computação da Universidade de Buffalo. De acordo com o estudo, esta nova IA foi capaz de detectar imagens de retratos Deepfake com uma surpreendente taxa de sucesso de 94%.
O sistema expõe as imagens falsas analisando “os destaques especulares da córnea inconsistentes entre dois olhos”.
Quando tiramos uma foto de um rosto real, o reflexo nos dois olhos será semelhante. Porque eles estão vendo a mesma coisa. Mas, geralmente, as imagens Deepfake falham em capturar com precisão essa semelhança, portanto, são incapazes de capturar a verdadeira semelhança da pessoa que estão tentando imitar.
O sistema analisa a imagem e, em seguida, calcula uma pontuação que é usada para determinar a semelhança de uma pessoa com outra.
A desvantagem mais óbvia da ferramenta é que ela requer uma fonte de luz refletida em ambos os olhos. Esses padrões podem ser corrigidos facilmente usando pós-processamento manual e o método não funcionará se um olho estiver faltando na imagem.
Microsoft compra Nuance, empresa de IA que usa Siri, por US $ 19,7 bilhões
Além disso, é provável que o sistema produza resultados falsos quando a pessoa na foto não está olhando para a câmera.
