Twitch, a popular plataforma de transmissão ao vivo, introduziu recentemente um recurso alimentado por IA projetado para reduzir linguagem prejudicial em salas de bate-papo. Anunciado pela equipe de suporte do Twitch no X (antigo Twitter), esse novo experimento visa tornar as interações online mais positivas, mas ainda não se sabe o quão bem-sucedido ele será.
A plataforma está lançando um aviso baseado em aprendizado de máquina que incentivará os usuários a pensar duas vezes antes de enviar mensagens que possam ser consideradas ofensivas ou desrespeitosas. Havia bots moderadores para isso, mas eles eram insuficientes, então o Twitch agora está procurando introduzir um sistema integrado.
A IA enfrenta palavrões no chat do Twitch, mas os bots ainda circulam livremente
A ideia básica por trás desse novo recurso é fornecer um momento de pausa para os usuários que estão prestes a enviar mensagens potencialmente prejudiciais. Quando a IA detecta linguagem que pode ser considerada ofensiva, um prompt aparecerá perguntando: “Tem certeza de que deseja enviar isso?“O prompt tem como objetivo evitar comunicação prejudicial, dando aos usuários a chance de reconsiderar suas palavras antes de clicar em enviar.
Mas a verdadeira questão aqui não se trata tanto de pessoas dizendo palavrões, mas se contas de bot estão enviando spam para as emissoras bate-papos ou ganhando uma audiência injusta. Em outras palavras, uma conta de bot já passará por esse aviso e comerá essa palavra novamente, e a conta já foi aberto para ser banido. É um pouco interessante tomar medidas contra as situações causadas pelo problema em vez de resolver o problema de origem.
Pessoal, usamos o exemplo da mensagem porque, sem surpresa, não queríamos que linguagem realmente terrível fosse tuitada.
Parem de ser idiotas.
— Suporte Twitch (@TwitchSupport) 12 de agosto de 2024
O conceito é simples, mas ainda não se sabe o quão eficaz ele será. O objetivo do Twitch é reduzir o assédio, um problema comum em muitas comunidades online. No entanto, surge a pergunta: os usuários que querem ser desrespeitosos ignorarão o aviso e continuarão com suas mensagens? Ou quão bem o aviso funcionará para contas de bot. O experimento do Twitch ajudará a determinar se essa abordagem orientada por IA pode realmente conter o comportamento negativo ou se é apenas mais um filtro que os usuários pulam sem pensar muito.
Os desafios e o futuro da moderação da IA
Um dos aspectos mais intrigantes desta experiência é como a IA interpretará a linguagem. Os sistemas de IA, especialmente aqueles baseados em aprendizado de máquina, dependem de padrões e dados para tomar decisões. O sucesso desse experimento depende da capacidade da IA de detectar e sinalizar com precisão a linguagem ofensiva sem censurar inadvertidamente comentários inofensivos. Esse equilíbrio é crucial, pois uma moderação excessivamente sensível pode impedir o fluxo livre da conversa, enquanto uma abordagem muito branda pode falhar em conter o próprio comportamento que visa eliminar.
Ou a IA será capaz de detectar coisas que são ilegais, como alguns sites de apostassem palavrões ou mensagens ruins, por exemplo?
A equipe de suporte do Twitch deu a entender que mais atualizações sobre esse recurso serão compartilhadas nas próximas semanas. Conforme o experimento avança, tanto o Twitch quanto seus usuários estarão observando atentamente para ver se essa iniciativa orientada por IA pode promover um ambiente mais acolhedor. Se isso é um passo em direção a salas de bate-papo mais limpas ou uma medida temporária, ainda não se sabe. Enquanto isso, eu gostaria que eles limpassem as contas de bot.
Este experimento é um lembrete de que tudo compartilhado no Twitch é gravado e monitorado, até mesmo mensagens privadas. Então, ele vai olhar para palavras boas e ruins. Essa inteligência artificial será desenvolvida usando esses dados? Ou, como deveríamos dizer, será obtida permissão dos usuários?
Crédito da imagem em destaque: Projeto de estoque RDNE / Pexels
Source: Twitch usará IA contra palavrões
