A China está propondo um sistema para rotular conteúdo gerado por IA online. O órgão fiscalizador da internet do país quer garantir que as pessoas saibam quando a IA estiver envolvida na criação de mídia online. Esta proposta abrange uma ampla gama de conteúdo, de texto e imagens a vídeos e arquivos de áudio.
Administração do Ciberespaço da China quer garantir que o conteúdo de IA possa ser facilmente identificado. O rascunho sugere adicionar rótulos ao conteúdo e seus metadados. Isso é para garantir transparência e levantar bandeiras vermelhas sobre conteúdo não marcado. Se as plataformas suspeitarem de conteúdo gerado por IA, mas não tiverem os metadados apropriados, elas serão obrigadas a rotulá-lo.
Novas regras para conteúdo gerado por IA em áudio e vídeo
Sob esta proposta, o conteúdo de áudio gerado por IA precisará de uma camada extra de transparência. Não apenas o conteúdo deve ser rotulado no início e no fim, mas as plataformas também devem emitir avisos de voz para alertar os ouvintes sobre o envolvimento da IA. Se uma plataforma detectar IA no meio do fluxo, ela pode até adicionar outro aviso naquele momento. Da mesma forma, as plataformas de vídeo precisarão exibir avisos quando a IA for detectada, com avisos aparecendo em vários pontos do vídeo para informar os espectadores.
Além dos rótulos, qualquer pessoa que use ferramentas de IA nessas plataformas será obrigada a se identificar. As plataformas também terão que manter um registro da atividade do usuário por pelo menos seis meses. Essas medidas estão alinhadas aos esforços contínuos da China para manter um controle rígido sobre a atividade na internet, garantindo que todo o conteúdo online possa ser rastreado até um indivíduo.
Plataformas enfrentam pressão com o plano proposto
A proposta inclui penalidades severas para não conformidade. Os provedores de serviços que não implementarem esses requisitos podem enfrentar consequências importantes. Pequim quer que as plataformas sejam diligentes em garantir que o conteúdo gerado por IA seja devidamente sinalizado e que qualquer pessoa que use IA para criar conteúdo seja claramente identificada. Isso significa que os gigantes da tecnologia na China precisarão ser extremamente vigilantes, pois não fazer isso pode levar a problemas com as autoridades.
Além disso, espera-se que as plataformas compartilhem seus métodos para detectar conteúdo de IA, contribuindo para um esforço mais amplo para melhorar a detecção de IA em todos os níveis. Essa cooperação entre plataformas é essencial para a visão de Pequim de reforçar o controle sobre a internet, garantindo que nenhum conteúdo passe despercebido.
A China geralmente não altera as principais regulamentações depois que elas são propostas. Como o país está focado em controlar o conteúdo gerado pelo usuário, é provável que essas regras sejam implementadas com poucos ajustes. Este é outro passo no esforço contínuo da China para manter a soberania sobre seu espaço digital.
Crédito da imagem em destaque: Furkan Demirkaya / Dall-E
Source: China planeja marcar todo o conteúdo gerado por IA online
