O feed de notícias do Facebook se transformou em um lugar estranho e perturbador. Imagens estranhas, aparentemente produzidas pela inteligência artificial, estão atraindo uma atenção extraordinária.
De vacas hipermusculosas a Jesus reinventado como um camarão, essas criações bizarras estão se espalhando pela plataforma, seguidas por um coro de “Amém”De usuários desavisados.
Mas por trás da onda de absurdos digitais existe uma realidade mais sombria: uma rede de páginas projetadas para atrair os usuários para fazendas de cliques carregadas de anúncios.
As comportas da IA se abrem
No centro deste fenómeno estão dezenas de páginas do Facebook que produzem incansavelmente imagens geradas por IA. Essas páginas costumam apresentar temas bizarros, como postagens com tema de Jesus ou comissários de bordo em cenários incomuns. As postagens geram milhares de reações, desde comentários perplexos até elogios de bot, enquanto usuários confusos se debatem para saber se as imagens são reais ou não.
De acordo com uma análise recente do Observatório da Internet de Stanford, essas imagens acumularam centenas de milhões de engajamentos. Retratos intrincados de Jesus gerados por IA (às vezes feitos de garrafas plásticas, às vezes esculpidos em areia) estão entre as imagens mais virais. Mais recentemente, a virada dos crustáceos para o AI-Jesus está ganhando terreno, com camarões, caranguejos e criaturas semelhantes no centro do palco. As comissárias de bordo, em grande parte retratadas como mulheres do Leste Asiático, são rotineiramente retratadas em cenários improváveis: rezando com Jesus, segurando cruzes ou encharcadas de lama. Enquanto isso, crianças negras tornam-se sensações virais ao exibirem obras-primas supostamente feitas à mão, como tigres de pneus gerados por IA.
Quem está por trás do dilúvio de IA?
A motivação por trás desta inundação de imagens de IA não é clara. A grande maioria dessas postagens não revela sua natureza gerada por IA, apesar da exigência do Meta de rotular tal conteúdo. Embora o potencial para fraudes esteja sendo discutido, este poderia ser simplesmente um caso de usuários explorando uma brecha para conteúdo viral.
À medida que a tecnologia de IA generativa se torna mais acessível, aumenta a preocupação de que estas imagens sintéticas possam ser utilizadas para desinformação e campanhas de desinformação.
Páginas roubadas do Facebook e a web viral
O estudo de Stanford revela que muitos destes As páginas de spam de IA são reaproveitadas de perfis legítimos.
Escolas, igrejas e até mesmo a página de uma banda de ensino médio foram sequestradas e transformadas em centros para imagens estranhas de IA. As tentativas dos proprietários originais de recuperar suas páginas foram recebidas com silêncio por parte do Facebook.
O espetáculo e a preocupação
Embora o espetáculo desperte diversão e perplexidade, há uma sensação crescente de desconforto. Os usuários estão teorizando que essas páginas poderiam ser usadas para identificar alvos potenciais para golpes. O grande volume de conteúdo sensacional de IA, juntamente com utilizadores crédulos, poderia criar uma rede para intervenientes maliciosos e esquemas fraudulentos.
A bizarra saga de camarões gerados por IA, arte de Jesus e comissários de bordo enlameados no Facebook lança um forte foco sobre uma questão emergente. À medida que a geração de imagens por IA se torna mais sofisticada, a linha entre estranheza inofensiva e manipulação perigosa se confunde. Isto destaca a necessidade de plataformas de mídia social como o Facebook assumirem uma postura mais proativa na identificação e rotulando conteúdo gerado por IA.
Crédito da imagem em destaque: Ame a Deus e Deus te ame/Facebook.
Source: O algoritmo do Facebook enlouqueceu: spam de IA e a bizarra ascensão do ‘Camarão Jesus’
