Repensando o chat para diversão, jogabilidade e civilidade

• Um bate-papo natural e fluido é essencial para jogos em que equipes ou comunidades jogam juntas. 
• Sequências de ##### onde linguagem imprópria foi bloqueada podem atrapalhar o chat, dificultar o acompanhamento e interromper a jogabilidade.
• Para ajudar a manter o chat fluido e respeitoso, estamos aprimorando nossos filtros de chat e reformulando palavrões para palavras que estejam dentro de nossas diretrizes.
• Este é o primeiro passo em nosso caminho de longo prazo para reduzir ##### e proporcionar uma experiência de bate-papo mais natural. Continuaremos a aprender, iterar e aprimorar nossas ferramentas para ajudar a promover um bate-papo seguro e civilizado, incluindo controles adicionais para os usuários.

Todos os dias, milhões de pessoas se conectam e jogam no Roblox, onde a comunicação em tempo real é importante para a expressão dos usuários e a coordenação do jogo. O uso de filtros de IA para bloquear textos problemáticos (visíveis aos usuários como #####) sempre foi fundamental para nossa abordagem de segurança e aumento da civilidade. Esses símbolos de hash são gerados em tempo real e ajudam os usuários a entender quando algo que digitam não é permitido. É claro que, quando os usuários violam repetidamente as regras, eles enfrentarão consequências além de suas palavras serem substituídas por ###.

Em maio de 2025, introduzimos avisos proativos em tempo real para ajudar os usuários a compreender nossas políticas. Eles agora estão ativos tanto para o chat de texto quanto para o de voz. Essas notificações informam aos usuários quando eles violaram uma regra, os incentivam a reconsiderar sua linguagem na próxima vez e os ajudam a se tornarem melhores cidadãos digitais. Em experimentos realizados no ano passado, observamos que o envio de notificações no chat de texto e a imposição de tempo de espera resultaram em uma redução de 5% nas mensagens de chat filtradas e de 6% nas consequências decorrentes de denúncias de abuso.

Hoje, estamos adicionando um recurso adicional para ajudar a manter o chat de texto dentro da experiência civilizado: estamos utilizando IA para reformular mensagens automaticamente, começando pelas palavras de baixo calão. À medida que esses sistemas se expandem, eles criam um ciclo virtuoso de civilidade, no qual o feedback em tempo real ajuda os usuários a aprender e adotar nossos Padrões da Comunidade. Todos os usuários, não apenas o remetente da mensagem, veem qual linguagem é permitida no Roblox (e o remetente vê o que não é permitido). Isso fornece mais feedback aos usuários que talvez não conheçam as regras e se baseia em nossa estrutura de filtragem e avisos em tempo real para ajudar a promover conversas seguras, civilizadas e divertidas no Roblox. 

Reformulação de conversas em tempo real: passando de sinais de parada para orientação

Para muitos usuários, uma sequência de ##### pode ser um beco sem saída na conversa, sem nenhuma orientação sobre como reformular sua linguagem para seguir nossos Padrões da Comunidade. Isso muitas vezes pode causar confusão e dificultar a colaboração entre equipes dentro de um jogo. Imagine alguém tentando avisar um amigo de que há um monstro atrás dele e digitando algo como “Cuidado! Tem um monstro na sua... ahhh!” para alertá-lo. O amigo só vê “###########”. Isso não ajuda muito. 

A partir de hoje, o texto filtrado será traduzido para uma linguagem mais respeitosa que ainda soe natural para os usuários do Roblox. No lançamento, essa reformulação em tempo real está focada em palavrões. Por exemplo, “Ande logo, porra!” pode se tornar “Ande logo!”, o que é muito mais próximo da intenção original do que #####. Para ficar claro: quando reformulamos uma mensagem que viola nossa política de palavrões, ela continua sendo uma violação e as mesmas regras ainda se aplicam. Um usuário que continuar tentando xingar no chat ainda enfrentará as mesmas consequências por violar repetidamente nossa política. 

Pense nesse sistema como um volante, em vez de um sinal de parada: se uma mensagem violar nossa política, todos no chat serão notificados de que o texto foi reformulado para manter o ambiente civilizado. Ao associar palavras restritas a frases que os usuários realmente usam no chat cotidiano, ajudamos a manter o chat respeitoso sem perder a autenticidade ou o fluxo natural. Ao substituir esses sinais de parada por orientações em tempo real, podemos reduzir parte desse atrito — e ainda reforçar nossas regras contra palavrões.

Ainda estamos no início do processo de reformulação e fornecimento de mais contexto aos usuários quando o texto é bloqueado. Com o tempo, como qualquer ferramenta de tradução por IA, ela se tornará cada vez mais precisa e sutil na forma como preserva o tom ou o contexto original do usuário. Nossa prioridade continua sendo a construção de uma forma segura e civilizada de se comunicar no Roblox, que continue priorizando informar, educar e orientar nossos usuários à medida que eles aprendem nossos padrões. 

Embora a reformulação reduza parte da perturbação no chat, nosso sistema de segurança em várias camadas continua em vigor para comportamentos mais graves. A reformulação está disponível exclusivamente para o chat dentro da experiência, que só está disponível entre usuários com verificação de idade em faixas etárias semelhantes e suas Conexões de Confiança. As reformulações são suportadas em todos os idiomas atualmente disponíveis por meio de nossas ferramentas de tradução automática. Nosso objetivo é alcançar um nível de precisão que nos permita reduzir o uso de ### até que possamos eliminá-lo completamente, tornando a comunicação digital tão natural e clara quanto uma conversa presencial.

Ao desenvolvermos esse recurso, consultamos os membros do nosso Conselho de Adolescentes para criar um sistema que reflita como os adolescentes realmente conversam. A membro do Conselho Sofia nos disse: “A mudança para a reformulação em tempo real preserva o fluxo da conversa, ao mesmo tempo em que ajuda a manter todos seguros. Ela gentilmente redireciona a interação para o caminho certo e ajuda as pessoas a se sentirem bem-vindas.” 

Jordyn, membro do Conselho de Adolescentes, concorda. “Essa mudança ensina os jogadores a refletir sobre como se comunicam e fortalece a interação ao promover conexões amigáveis”, disse Jordyn. “Ao mudar para a reformulação, isso permite um meio-termo entre as solicitações dos jogadores e os padrões de segurança necessários.”  

Filtros de texto aprimorados: evoluindo de padrões para o contexto

Nossos recursos de segurança evoluem continuamente para se manterem fiéis à forma como os usuários conversam no Roblox. Nossos filtros de texto são treinados para detectar e bloquear qualquer coisa que vá contra nossos Padrões da Comunidade. Isso precisa acontecer em escala global e em tempo real, enquanto os usuários estão conversando.

Inicialmente, esse sistema tinha dois componentes: 1) Um sistema baseado em regras, projetado para detectar e bloquear conteúdo que viole nossas regras em questão de minutos quando eventos do mundo real ocorrem. 2) Um conjunto de modelos especializados que foram treinados a partir de um modelo maior, com base em um conjunto de amostras simuladas e reais que são continuamente atualizadas para incluir tipos de linguagem em evolução. 

Esses modelos especializados são muito bons em tarefas específicas, como encontrar uma lista de palavras que não permitimos, mas não têm grande capacidade de raciocínio, por isso não são bons em identificar termos que estão em evolução. Modelos extremamente grandes não funcionam em tempo real, e alucinações (ou categorizações erradas) frequentemente aumentam os falsos positivos. 

Nesta atualização, introduzimos um novo terceiro componente em nosso sistema de filtragem de texto. Agora, quando os modelos especializados não têm certeza se algo está violando as regras ou não, eles são encaminhados para modelos muito grandes que são melhores em raciocinar e avaliar mais contexto. Esses modelos grandes podem tomar decisões mais complexas. 

Nossos experimentos mostram que essa abordagem combinada melhorou significativamente nossos filtros. Os filtros agora detectam melhor a linguagem “leet-speak” — ou letras substituídas por números ou símbolos — e tentativas mais sofisticadas de contornar nossos filtros. Nenhum sistema é perfeito, mas estamos entusiasmados porque essa inovação mais recente nos permitiu reduzir em 20 vezes a prevalência de falsos negativos no compartilhamento ou solicitação de informações pessoais, como nomes de usuário em redes sociais ou números de telefone.

Esta é uma abordagem nova e ousada, e nem sempre conseguiremos reformular as coisas com perfeição. Mas continuaremos aprendendo e experimentando à medida que avançamos, e continuaremos a reduzir o número de ##### que os usuários veem em seus chats, com o objetivo de longo prazo de eliminá-los completamente. Nosso objetivo final é capacitar os usuários a colaborar e se conectar de uma forma que seja divertida e respeitosa.