Em resumo
- O novo recurso baseado em IA do Roblox reescreve palavrões no bate-papo em vez de substituir as mensagens por “####”.
- O sistema visa manter as conversas legíveis durante o jogo, ao mesmo tempo que aplica os padrões da comunidade Roblox.
- A empresa também está atualizando seus filtros de bate-papo para detectar palavrões e tentativas de obter informações pessoais dos jogadores.
A plataforma de jogos online extremamente popular, Roblox, está substituindo as sequências de hashmarks que aparecem quando seus filtros de bate-papo detectam palavrões por versões reformuladas por IA de mensagens sinalizadas, anunciou a empresa na quinta-feira.
O recurso, chamado de reformulação de bate-papo em tempo real, modifica palavrões nas mensagens para que as conversas permaneçam legíveis em vez de aparecerem como texto bloqueado.
“Por exemplo, uma mensagem que viola as políticas de palavrões da Roblox, como ‘Depressa, TF!’ anteriormente teria aparecido como ‘####’ no chat de experiência”, disse a empresa. “Isso agora será reformulado para ‘Depressa!’”
Este novo design, de acordo com o vice-presidente de usuário e produto de descoberta da Roblox, Rajiv Bhatia, visa manter a civilidade reformulando a linguagem e substituindo “sinais de parada” por palavras reais.
“O bate-papo é fundamental para como as pessoas se conectam, coordenam e jogam no Roblox”, disse Bhatia em comunicado. “A reformulação da frase em tempo real ajuda a manter o jogo e as conversas no caminho certo, ao mesmo tempo que orienta a linguagem para o que é apropriado.”
Em maio de 2025, Roblox introduziu avisos em tempo real que alertam os usuários quando as mensagens podem violar as regras da plataforma e os incentivam a reconsiderar seu texto.
“Em experimentos no ano passado, a Roblox viu que a emissão de notificações e intervalos de bate-papo de texto durante a experiência resultou em uma redução de 5% nas mensagens de bate-papo filtradas e uma redução de 6% nas consequências de denúncias de abuso”, disse a empresa.
Apesar da queda, Roblox disse que a nova mudança aborda um problema antigo em que a linguagem filtrada aparece como sequências de caracteres aleatórios, o que pode dificultar o acompanhamento dos bate-papos durante o jogo.
Embora os jogadores no chat sejam notificados quando o texto é reformulado, a empresa afirma que o novo sistema não altera suas políticas de aplicação de palavrões.
“Para ser claro, quando reformulamos uma mensagem que viola nossa política de palavrões, ainda é uma violação e as mesmas regras ainda se aplicam”, disse Bhatia em comunicado separado na quinta-feira. “Um usuário que continuar tentando xingar no chat ainda enfrentará as mesmas consequências por violar repetidamente nossa política.”
O recurso de reformulação, disse Roblox, está disponível apenas em bate-papos entre usuários com idade verificada em faixas etárias semelhantes e oferece suporte a todos os idiomas atualmente disponíveis por meio das ferramentas de tradução automática do Roblox. Para entender como os jogadores adolescentes falam durante o jogo, Roblox disse que o novo recurso de reformulação foi desenvolvido em colaboração com membros do Conselho Adolescente.
A empresa também está atualizando seu sistema de filtragem de texto para detectar melhor tentativas de contornar as regras de moderação, incluindo variações de linguagem que substituem letras por números ou símbolos, conhecidas como leetspeak.
A reformulação do bate-papo do Roblox faz parte de uma tendência crescente na indústria de jogos, com as empresas usando cada vez mais IA para moderar o comportamento dos jogadores em jogos multijogador. Em 2024, a Activision disse que mais de 2 milhões de contas foram sinalizadas por bate-papos perturbadores após implantar seu sistema de moderação ToxMod com tecnologia de IA em vários títulos Call of Duty. A empresa disse que a ferramenta ajudou a reduzir reincidentes e a eliminar casos graves de chat de voz perturbador.
Roblox também expandiu seu próprio uso de IA em toda a plataforma. Em fevereiro de 2024, a empresa introduziu a tradução de bate-papo com IA em tempo real que permite aos jogadores se comunicarem em mais de 16 idiomas no bate-papo Roblox.
“Esta é uma abordagem nova e ousada e nem sempre reformulamos as coisas perfeitamente”, disse Bhatia sobre a última mudança, acrescentando que a empresa continuará a aprender e experimentar o recurso. “Nosso objetivo final é capacitar os usuários a colaborar e se conectar de uma forma divertida e respeitosa.”
Roblox não respondeu imediatamente a um pedido de comentário de Descriptografar.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
