Segundo relatos, as imagens geradas por IA de Billie Eilish foram o foco de “pornografia deepfake” no TikTok em um vídeo que recebeu milhões de visualizações.
Em sua página For You, principal feed da rede social, os usuários se depararam com um vídeo com rostos de 20 anos colocados em corpos sexualmente exagerados. Antes de o TikTok proibir o clipe por quebrar as diretrizes da comunidade sobre assédio sexual, a apresentação de slides da galeria de fotos supostamente tinha 11 milhões de espectadores.
O vídeo que alegou usar IA autogerada para recriar uma versão do cantor Your Power supostamente exibida nas telas do telefone por quatro dias, apesar do aplicativo proibir todo conteúdo abertamente sexualizado.
A tecnologia de IA foi longe demais com os deepfakes gerados por IA de Billie Eilish?
Apesar do fato de que as próprias políticas do TikTok afirmam que o conteúdo descaradamente sexualizado é proibido, o vídeo foi exibido na guia Para você do aplicativo.
Aplicativos como Lensa ou Midjourney ganharam muita força nas últimas semanas e, como resultado, as personalidades digitais das pessoas com base em suas próprias fotos estão por todo o Instagram, Twitter e TikTok. Mas há muitos relatos dizendo que o Lensa AI está no centro de um debate acalorado sobre seu conteúdo NSFW, já que a plataforma gera imagens femininas “nuas” sem qualquer consentimento.
No entanto, muitas mulheres afirmam que, ao tirar suas roupas ou mostrar-lhes corpos sexualizados, os aplicativos estão apoiando a misoginia.
Para ajudar as vítimas de abuso de gênero online e offline, Hera Hussain, criadora e CEO da Chayn disse:
“O algoritmo do TikTok não está configurado para discernir entre que tipo de conteúdo está gerando engajamento e esse é um problema crítico. Não deve recomendar esses vídeos para os feeds de seus usuários. Não é um meme inofensivo. Não é uma foto dos próprios vídeos da cantora. É uma imagem hipersexualizada manipulada por IA.”
– Hera Hussein
É confuso como o algoritmo TikTok suporta conteúdo NSFW
Se você usa qualquer plataforma de mídia social, deve saber que as fotos geradas por IA recentemente se tornaram virais em grandes plataformas como o TikTok, que é usado por milhões de pessoas de todas as idades. É realmente confuso que conteúdo como pornografia deepfake gerada por Billie Eilish AI seja recomendado aos usuários pelo algoritmo TikTok. Infelizmente, o conteúdo ficou na plataforma por dias e recebeu milhões de visualizações antes de ser removido.
Um porta-voz do TikTok disse sobre o assunto:
“Este conteúdo viola nossas Diretrizes da comunidade, que afirmam claramente que não permitimos conteúdo que altere ou transforme uma imagem de outro indivíduo para retratar ou sugerir sugestividade sexual.”
– porta-voz do TikTok
A reação às fotos geradas por IA está crescendo
Há muita conversa nas plataformas de mídia social sobre os danos dos aplicativos de IA que vieram à tona novamente com o deepfake gerado por Billie Eilish AI depois que o popular aplicativo Lensa AI retratou as mulheres anteriormente como muito sexuais e acusadas de roubar as obras de alguns artistas . Existem muitos tweets sobre o assunto no Twitter como @_CatherineAllentweet de.
Por que este aplicativo de retrato AI está tão ansioso para remover minhas roupas?!
Com o Lensa, você carrega 20 selfies e gera dezenas de retratos artísticos exclusivos de você. Eu estava completamente vestido em todas as fotos que eu carreguei (obv!), mas algumas fotos geradas de mim eram nuas
pic.twitter.com/rwOvPmrpFd
—Catherine Allen (@_CatherineAllen) 10 de dezembro de 2022
Um protesto contra imagens geradas por IA foi realizado recentemente no ArtStation, uma plataforma dedicada a artistas digitais. Os artistas começaram a se revoltar contra a arte da IA e a dizer mensagens “Não às imagens geradas pela IA” nas fotos que enviaram para a plataforma.
O uso correto das tecnologias de IA é definitivamente um elemento muito importante para nós. A IA, que há anos nos ajuda em muitos pontos de nossas vidas, infelizmente se tornou o foco de muitas discussões, tornando-se viral nos últimos dias. Embora a maioria das tecnologias de IA siga o protocolo de autoaprendizagem, o lançamento público de aplicativos talvez esteja empurrando a IA para trás, especialmente em questões éticas, em vez de apoiar seu desenvolvimento. Se olharmos para o modelo criado pelo ChatGPT, talvez não seja utilizado nos tópicos atuais devido às ressalvas da OpenAI sobre este assunto.
Source: TikTok promoveu pornografia deepfake gerada por IA de Billie Eilish
