O Google divulgará imagens criadas ou editadas por inteligência artificial nos resultados de busca. A gigante da tecnologia planeja fornecer mais transparência adicionando rótulos a imagens criadas ou modificadas por IA.
A mudança ocorre após o Google fazer parceria com grandes empresas na Coalition for Content Provenance and Authenticity (C2PA), que visa combater a disseminação de informações enganosas online. Vamos dar uma olhada nos detalhes do plano do Google para sinalizar conteúdo gerado por IA e as questões que o cercam.
A busca do Google por IA é apenas um espetáculo secundário?
Nos próximos meses, o Google começará a marcar os dados gerados e editados por IA imagens nos resultados da pesquisa. Isso será feito usando metadados do Credenciais de conteúdo padrão, que inclui informações como quando, onde e como a imagem foi criada. Os usuários poderão ver essa tag por meio do recurso “Sobre esta imagem” do Google, que pode ser acessado clicando nos três pontos acima de uma imagem nos resultados da pesquisa.
A ideia por trás da mudança é dar aos usuários uma maneira de rastrear a origem das imagens e facilitar localize conteúdo gerado por IA. A mudança ocorre após o Google se juntar a outras empresas de tecnologia, como Amazon, Adobe e Microsoft, no desenvolvimento das últimas diretrizes de Credenciais de Conteúdo. Juntas, essas empresas esperam aumentar a transparência e reduzir a disseminação de imagens falsas ou enganosas.
Mas, embora a iniciativa do Google seja um passo na direção certa, vale a pena notar que o rótulo não será imediatamente óbvio. Os usuários precisarão pesquisar ativamente por informações clicando na seção “Sobre esta imagem”, o que pode tornar o recurso menos eficaz do que alguns podem esperar.
Como os usuários acessarão as informações de IA?
A nova função pode ser encontrada no Google Lens e no recurso “Circle to Search” do Android, e agora indicará se uma imagem foi gerada ou alterada usando inteligência artificial. Deixar de exibir o rótulo diretamente pode resultar em falta de conhecimento sobre a existência dessa ferramenta entre muitos usuários. Como há etapas adicionais envolvidas, certos indivíduos podem nunca ser capazes de confirmar se uma imagem foi gerada por IA, a menos que já estejam familiarizados com a funcionalidade. Mesmo que os indivíduos estejam cientes, o processo ainda pode ser difícil, principalmente se eles anteciparem que as imagens produzidas por IA serão marcadas de forma mais clara.
Apesar dessa restrição, a parceria do Google com a C2PA pode ser valiosa, pois o padrão Content Credentials oferece uma estrutura mais ampla para rastrear a origem do conteúdo digital. No entanto, esse padrão não foi adotado por todos os desenvolvedores de IA. Algumas organizações, como Laboratórios da Floresta Negraoptaram por não incluí-lo, o que pode complicar os esforços para rastrear a origem das imagens geradas por modelos específicos.
Preocupações sobre eficácia: o Google está fazendo o suficiente?
Há também um problema maior: as imagens geradas por IA estão se tornando cada vez mais difíceis de detectar. Uma Universidade de Waterloo estudo descobriu que 39% das pessoas não conseguem diferenciar entre imagens geradas por IA e imagens reais. Se essa tendência continuar, o sistema de rotulagem do Google pode não ser suficiente para ajudar os usuários a identificar com confiança o conteúdo gerado por IA.
Além disso, outras empresas de tecnologia não estão dando um bom exemplo. A Meta, por exemplo, recentemente moveu as informações de marcação para uma posição menos visível nas postagens. Isso levanta a questão se os gigantes da tecnologia estão realmente comprometidos em tornar o conteúdo gerado por IA mais transparente ou se estão apenas tomando medidas mínimas.
Poucas câmeras, como a Leica M-11P e Nikon Z9vem com embutido Credenciais de conteúdo. Isso significa que, a menos que fotógrafos e desenvolvedores escolham usar essas ferramentas, o sistema não será tão eficaz quanto poderia ser. A transparência no conteúdo gerado por IA depende muito da colaboração entre setores e, até agora, nem todos parecem igualmente envolvidos.
Ao mesmo tempo, o aumento de imagens geradas por IA levantou novas preocupações sobre desinformação. De deepfakes a fotos de nus geradas por IA, o potencial de dano é claro. Embora o novo sistema de rotulagem do Google não resolva todos esses problemas, é um pequeno passo para reduzir a disseminação de conteúdo enganoso online.
Créditos da imagem: Furkan Demirkaya / Ideograma IA
Source: A tag de imagem de IA do Google será fácil de identificar?
