A Meta está desenvolvendo uma ferramenta de detecção baseada na web projetada para identificar imagens e vídeos criados com seu modelo de geração de imagens, conhecido como Muse Image. Esta ferramenta verifica a presença de marcas d’água invisíveis, chamadas de Selo de Conteúdo, incorporadas ao conteúdo gerado.
De acordo com Meta, o Content Seal permanece intacto independentemente da manipulação da imagem, incluindo corte, compactação, redimensionamento ou capturas de tela. A empresa afirmou que a ferramenta fornece um mecanismo inicial para os usuários determinarem se uma imagem carrega uma marca d’água do Selo de Conteúdo.
A abordagem de marca d’água utilizada pelo Muse Image é proprietária e difere das versões anteriores de código aberto lançadas pela Meta. A versão atual dos modelos de IA do Meta não emprega marcas d’água visíveis, diferentemente dos modelos anteriores que incluíam logotipos nas imagens.
Atualmente, os recursos de detecção estão limitados a imagens criadas ou editadas com o Muse Image. A Meta planeja estender as marcas d’água Content Seal para vídeos gerados e editados por IA no futuro. A empresa também está desenvolvendo um modelo separado de geração de vídeo chamado Muse Video, que deverá ser lançado em breve.
Os testes da ferramenta de detecção confirmaram sua capacidade de identificar marcas d’água tanto em imagens editadas quanto naquelas geradas inteiramente por IA. Uma detecção positiva indica que a imagem foi produzida usando o aplicativo Meta AI ou meta.ai, enquanto um resultado negativo sugere que é improvável que tenha sido processada com Meta AI. No entanto, o recurso de detecção não está integrado ao próprio aplicativo Meta AI; o assistente do aplicativo confirmou que não consegue determinar se uma imagem específica foi criada pelo Meta AI.
Meta enfrentou escrutínio em relação à aplicação inconsistente de marcas d’água digitais para conteúdo gerado por IA. O Conselho de Supervisão expressou preocupação no início do ano sobre as práticas da empresa na rotulagem de materiais produzidos por IA. O Content Seal é incompatível com métodos de marca d’água estabelecidos, como SynthID e C2PA Content Credentials.
Durante testes recentes, a ferramenta de detecção não conseguiu identificar imagens criadas ou editadas com versões anteriores dos modelos de IA do Meta. Além disso, os usuários da ferramenta encontram limites de taxas, recebendo alertas assim que atingem seu limite diário para verificações de identificação.
