Uma onda sem precedentes de vídeos gerados por IA, imagens de satélite falsas e imagens manipuladas relacionadas com a campanha militar EUA-Israel contra o Irão acumulou centenas de milhões de visualizações em plataformas de redes sociais. A BBC Verify informou que governos estrangeiros, meios de comunicação estatais e criadores oportunistas produziram este conteúdo desde o início do conflito, em 28 de fevereiro.
O dilúvio de conteúdos fabricados está a poluir o ambiente da informação durante um consequente conflito militar na região. Um vídeo gerado por IA amplamente partilhado que parece mostrar mísseis atingindo Tel Aviv foi apresentado em mais de 300 publicações e visto dezenas de milhões de vezes.
Outro clipe falso mostrando o Burj Khalifa em Dubai envolto em chamas circulou amplamente enquanto os moradores temiam ataques de drones e mísseis. O Tehran Times, afiliado ao estado iraniano, compartilhou uma imagem de satélite fabricada que alegava mostrar danos a uma instalação de radar dos EUA no Catar.
A ferramenta de detecção de marca d’água SynthID do Google confirmou que a imagem foi criada ou alterada usando um produto de IA do Google. A imagem foi derivada de imagens de satélite genuínas de uma base naval dos EUA no Bahrein, tiradas em fevereiro de 2025.
Imagens de videogame também foram consideradas combates reais. O governador do Texas, Greg Abbott, republicou um clipe do jogo War Thunder, escrevendo “Tchau, tchau”, antes de deletar a postagem depois que uma nota da comunidade o sinalizou como filmagem do jogo.
O jornalista sênior da BBC Verify, Shayan Sardarizadeh, afirmou que “esta guerra pode já ter quebrado o recorde de maior número de vídeos e imagens gerados por IA que se tornaram virais durante um conflito”. O chatbot de IA do X, Grok, falhou repetidamente em identificar conteúdo falso, insistindo que um vídeo gerado por IA de mísseis atingindo Tel Aviv era real.
Grok citou relatórios da Newsweek e da Reuters para reforçar a sua falsa confirmação. X não respondeu ao pedido da BBC Verify para comentar o comportamento do chatbot.
Em 4 de março, Nikita Bier, chefe de produto de X, anunciou que os criadores que postarem vídeos de conflitos armados gerados por IA sem divulgação serão suspensos do Programa de Compartilhamento de Receitas para Criadores por 90 dias. Os infratores reincidentes enfrentam remoção permanente.
A plataforma disse que sinalizará violações por meio de notas da comunidade e metadados de ferramentas generativas de IA. Bier afirmou que “com as tecnologias de IA de hoje, é trivial criar conteúdo que possa enganar as pessoas”.
Os críticos argumentam que o modelo de compartilhamento de receitas baseado em engajamento de X incentiva conteúdo sensacionalista e enganoso. A especialista Mahsa Alimardani alertou que “vídeos falsos como esses minam a confiança do público nas informações verificadas disponíveis online e complicam a documentação de evidências reais”.
BBC Verify é uma unidade de verificação de fatos da British Broadcasting Corporation. A investigação foi publicada em 6 de março.
