Roblox lançou um recurso de reformulação de bate-papo em tempo real com tecnologia de IA para substituir palavras proibidas por uma linguagem mais respeitosa. O novo sistema substitui o filtro anterior da plataforma, que simplesmente censurava textos proibidos com símbolos de hash. Roblox afirmou que a mudança visa evitar que as conversas sejam interrompidas e difíceis de acompanhar.
O recurso reformula o texto filtrado para permanecer próximo à intenção original do usuário, mantendo a civilidade. Por exemplo, a mensagem “Depressa, TF!” agora aparecerá como “Depressa!” em vez de “####.” A empresa notifica todos os usuários em um chat quando uma mensagem é reformulada.
“A reformulação da frase em tempo real ajuda a manter a jogabilidade e as conversas no caminho certo, ao mesmo tempo que orienta a linguagem para o que é apropriado”, disse Rajiv Bhatia, vice-presidente de usuário e produto de descoberta da Roblox. “Esta abordagem reduz o atrito no chat, ao mesmo tempo que mantém os padrões que ajudam a manter a nossa comunidade civilizada.”
A ferramenta de reformulação oferece suporte a todos os idiomas disponíveis nas ferramentas de tradução automática do Roblox. Roblox também está atualizando seu sistema de filtragem de texto para detectar leetspeak e outras tentativas sofisticadas de contornar filtros. A empresa informou que essas atualizações reduziram em 20 vezes os falsos negativos ao compartilhar ou solicitar informações pessoais.
Este anúncio segue a introdução da Roblox da verificação facial obrigatória para acesso ao chat. O requisito de verificação foi implementado após ações judiciais dos procuradores-gerais do Texas, Kentucky e Louisiana relacionadas aos riscos à segurança infantil. As ações judiciais foram motivadas por relatos de jovens usuários que enfrentam perigos como aliciamento e conteúdo explícito na plataforma.
