O Google está expandindo seu sistema de detecção de IA SynthID para Chrome e Search, aprimorando os recursos para identificar imagens geradas e editadas por IA. SynthID, que anexa metadados invisíveis ao conteúdo criado ou modificado usando as ferramentas de IA do Google, já foi integrado ao aplicativo Gemini.
A atualização mais recente permite aos usuários avaliar a origem de uma imagem através de vários métodos. O recurso Circle to Search do Google no Android agora sinalizará conteúdo de IA, enquanto o Google Lens e a versão do Gemini do Chrome podem responder a perguntas sobre se uma imagem específica é gerada por IA. Segundo o Google, essas ferramentas fornecerão informações detalhadas sobre a procedência, indicando, por exemplo, se uma imagem foi tirada com um telefone Pixel e editada no Google Fotos.
No entanto, o Google observou que nem sempre pode fornecer informações detalhadas para cada imagem alterada por IA, especialmente aquelas criadas em outras plataformas de IA. A empresa adicionou credenciais de conteúdo ao aplicativo de câmera nativo do Pixel 10 e está expandindo esse recurso para os modelos Pixel 8 e 9. Paralelamente, OpenAI, Kakao e ElevenLabs estão integrando a tecnologia SynthID em seu conteúdo gerado por IA. A OpenAI confirmou que sua integração começará com imagens produzidas usando ChatGPT, Codex ou API OpenAI.
O Google também está expandindo o suporte para credenciais de conteúdo, com suporte para o aplicativo Gemini sendo lançado hoje. As integrações ao Chrome e à Pesquisa são esperadas nos próximos meses. A empresa reconheceu que nenhum sistema de marca d’água de IA é completamente infalível, afirmando que existem maneiras de evitar ferramentas de detecção e marcas d’água.
“À medida que o conteúdo gerado por IA se torna mais convincente e onipresente, tornar mais fácil para as pessoas verificarem a autenticidade do que veem é um primeiro passo útil”, afirmou o Google.
