Os vídeos racistas, aparentemente gerados pela ferramenta de criação de vídeo da AI do Google, o VEO 3, acumularam milhões de visualizações em Tiktok, de acordo com uma investigação recente da Media Media Media Matters. Esses vídeos produzidos pela AI, identificados pela organização, estão saturados com estereótipos depreciativos, particularmente visando indivíduos negros.
A Media Matters concluiu que os vídeos, um dos quais ganharam surpreendentes 14,2 milhões de visualizações, foram criados usando o Google VEO 3 devido à marca d’água visível “Veo” exibida com destaque no canto desses clipes. Além disso, alguns usuários incluíram explicitamente hashtags, legendas ou nomes de usuário que referenciam o VEO 3 ou a IA. Cada clipe identificado pela organização tinha exatamente oito segundos ou compreendeu vários segmentos, cada um não superior a oito segundos, alinhando-se perfeitamente ao conhecido limite de oito segundos do VEO 3.
O Google lançou o VEO 3 em maio, permitindo que os usuários gerem videoclipes de IA e áudio simplesmente inserindo um prompt de texto. O site oficial do Google afirma seu compromisso de “bloquear solicitações e resultados prejudiciais”. Da mesma forma, as diretrizes da comunidade de Tiktok proíbem explicitamente “discurso de ódio e comportamento odioso”, afirmando que a plataforma “não recomendará conteúdo que contém estereótipos negativos sobre uma pessoa ou grupo com um atributo protegido”.
Em resposta às descobertas, o porta -voz da Tiktok, Ariane de Selliers, declarou à The Gerge: “Impontamos proativamente regras robustas contra discursos e comportamentos odiosos e removemos as contas que identificamos no relatório, muitas das quais já foram banidas antes da publicação do relatório”. O Verge também descobriu alguns desses vídeos problemáticos no YouTube, embora com menos visualizações, enquanto conectou independentemente o conteúdo racista de AI comparável de forma independente no Instagram. A mídia também encontrou outros vídeos contendo conteúdo anti -semita e retratos racistas de imigrantes e indivíduos asiáticos. O Google ainda não forneceu um comentário sobre o problema.
Source: Vídeos de IA racistas criados pela superfície Veo 3 do Google
