Como a Roblox colabora com as autoridades policiais

• Todos os dias, mais de 100 milhões de usuários de todas as idades têm uma experiência segura e positiva no Roblox.
• Inovamos continuamente nossos abrangentes sistemas de segurança, que combinam moderação por IA de ponta com a expertise de milhares de profissionais treinados.
• Quando esses sistemas detectam sinais precoces de possíveis atividades ilícitas, ameaças violentas ou outros danos na vida real, investigamos e, quando necessário, tomamos as medidas coercitivas adequadas, incluindo a denúncia às autoridades policiais.  

A segurança é fundamental para tudo o que fazemos no Roblox — nossa plataforma foi criada desde o início para todas as idades, incluindo usuários menores de 13 anos. Nossa abordagem inclui uma infraestrutura de segurança em grande escala e supervisão de milhares de pessoas em todo o mundo dedicadas à segurança. O Roblox também é um lugar fundamentalmente diferente do resto da Internet. Exigimos verificação de idade para bate-papos sem filtragem entre usuários. Todos os outros bate-papos, incluindo discussões públicas, são rigorosamente filtrados e projetados para impedir o compartilhamento de informações de identificação pessoal — incluindo números de telefone, nomes de usuário e links para outras plataformas online.

Como parte de nossos sistemas de moderação proativos, utilizamos protocolos avançados de detecção e resposta rápida para denunciar possíveis atividades ilícitas, ameaças violentas ou outros danos na vida real às autoridades policiais. Estamos focados na inovação incessante, e nosso trabalho em segurança nunca termina. Essa parceria com as autoridades policiais — que temos orgulho de destacar, já que a Roblox participa da 37ª Conferência Anual sobre Crimes contra Crianças (CACC) nesta semana — faz parte de nossos esforços completos e multifacetados para ajudar a manter os usuários seguros.

Nossas rigorosas medidas de segurança podem frustrar os malfeitores e levá-los a atuar em outras plataformas. Isso é positivo — não os queremos no Roblox —, mas também sabemos que muitos de nossos usuários estão ativos em várias plataformas e queremos contribuir para a segurança deles mesmo quando não estão no Roblox. Essa é uma das muitas razões pelas quais colaboramos com as autoridades policiais em todo o mundo, ao mesmo tempo em que tomamos cuidado para proteger a privacidade de nossos usuários. Ao ajudar a identificar e neutralizar malfeitores, buscamos auxiliar as autoridades policiais a conectar os pontos entre as plataformas para investigar mais a fundo e intervir quando apropriado.  

Participar de conferências de autoridades policiais, como a CACC, é apenas uma das maneiras pelas quais estabelecemos parcerias com as autoridades policiais para ajudar a manter os usuários do Roblox seguros. Por meio de um intenso trabalho de divulgação global, desenvolvemos relações profundas e duradouras com as autoridades policiais nos âmbitos internacional, federal, estadual e local. Compartilhamos melhores práticas e aprendizados, fornecemos orientações claras sobre como as autoridades policiais podem entrar em contato conosco por meio do nosso portal para autoridades, detalhamos os tipos de registros que podem estar disponíveis em resposta a solicitações legais válidas e buscamos ativamente a opinião das autoridades sobre questões de segurança. Também contamos com equipes internas dedicadas que trabalham 24 horas por dia para atender às solicitações das autoridades, investigar ameaças à segurança da plataforma e encaminhar ameaças graves às autoridades competentes.

Mantemos canais de comunicação diretos com organizações, como o FBI e o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), para o encaminhamento imediato de ameaças graves que identificamos. Denunciamos proativamente conteúdos potencialmente prejudiciais ao NCMEC, que é a entidade designada para denúncias do público e de provedores de serviços eletrônicos em casos de suspeita de exploração sexual infantil. Em 2024, enviamos 24.522 denúncias ao NCMEC (0,12% do total de 20,3 milhões de denúncias enviadas ao NCMEC).

Além disso, em colaboração com o NCMEC e as autoridades policiais, tomamos medidas específicas para melhorar a viabilidade de ação de nossas denúncias ao NCMEC, como a inclusão de informações essenciais sobre fatores agravantes ou preocupações de iminência. Essas ações facilitam a capacidade do NCMEC e das autoridades policiais de classificar e investigar mais prontamente nossas denúncias. Além disso, encaminhamos proativamente ameaças potenciais à segurança (como terrorismo, extremismo violento ou ameaças individualizadas de violência) por meio de uma integração com o FBI, projetada para lidar com denúncias de plataformas como a nossa. Em todos esses casos, nossas equipes internas dedicadas estão de prontidão 24 horas por dia, 7 dias por semana, para auxiliar ainda mais as autoridades policiais em quaisquer investigações resultantes.

Esse desafio não é exclusivo do Roblox. Estamos em constante comunicação com outras plataformas, organizações não governamentais e consórcios acadêmicos/industriais que trabalham para encontrar soluções para impedir a ação de agentes mal-intencionados. Somos membros ativos da Tech Coalition, uma comunidade de empresas de tecnologia que trabalham juntas para proteger crianças online, desde 2018. Nos associamos à Lantern como membro fundador em 2023. Esse programa de compartilhamento de sinais entre plataformas, o primeiro do gênero, permite que as empresas participantes compartilhem informações e tomem medidas contra agentes mal-intencionados que transitam de uma plataforma para outra. Também nos associamos à iniciativa Robust Open Online Safety Tools (ROOST) como parceiro fundador para compartilhar novas tecnologias de segurança que possam ajudar a impulsionar o setor como um todo, começando com nosso classificador de segurança de voz.

Além dessas organizações, colaboramos com formuladores de políticas em iniciativas-chave de segurança infantil, legislação e outros esforços. Fomos a primeira e uma das únicas empresas a apoiar a Lei do Código de Design Adequado à Idade da Califórnia para proteger as informações de usuários jovens. E assinamos uma carta de apoio ao Projeto de Lei 933 do Senado da Califórnia (SB 933), que atualiza as leis estaduais para proibir expressamente o material de abuso sexual infantil gerado por IA.

Os profissionais responsáveis pela aplicação da lei estão em melhor posição para investigar possíveis crimes. Portanto, queremos garantir que quaisquer violações no Roblox sejam denunciadas e tratadas pelos canais adequados. 

Infelizmente, há casos de grupos de justiceiros ou indivíduos que violam nossas políticas para armar ciladas para usuários ou, de alguma forma, policiar a plataforma por conta própria. Embora esses grupos possam parecer ter o interesse público em mente, na verdade estão agindo de maneiras que podem ser prejudiciais a outras pessoas, tanto dentro quanto fora da nossa plataforma. Por exemplo, seus esforços podem fazer com que pessoas mal-intencionadas permaneçam na plataforma por mais tempo, simplesmente para criar conteúdo mais sensacionalista nas redes sociais.

As ações tomadas por grupos de justiceiros aumentam o risco de mais usuários serem expostos a pessoas mal-intencionadas e podem atrasar os esforços de fiscalização tanto da Roblox quanto das autoridades. Qualquer conta, incluindo as de grupos de justiceiros ou indivíduos, flagrada violando nossas políticas enfrentará consequências que podem incluir a remoção e o banimento, quando justificado. Aplicamos nossas políticas de acordo com nossos Padrões da Comunidade e Termos de Uso gerais.

Em vez de tomarem a lei nas próprias mãos, incentivamos a comunidade a denunciar qualquer comportamento inadequado diretamente à Roblox ou às autoridades policiais usando os métodos fáceis de denúncia descritos abaixo.

Incentivamos qualquer usuário que acredite que um crime tenha sido cometido a entrar em contato diretamente com as autoridades locais. Conforme descrito acima, trabalhamos regularmente em estreita colaboração com as autoridades policiais e, quando elas nos contatam, coordenamos nossas ações com elas na medida do possível. Os usuários também podem denunciar possíveis casos de exploração sexual infantil diretamente à CyberTipline do NCMEC. 

Além de nosso trabalho com as autoridades policiais, estabelecemos um programa Trusted Flagger, no qual parceiros próximos e confiáveis podem nos denunciar possíveis atividades criminosas graves (como terrorismo, extremismo violento ou exploração infantil). Analisamos prontamente essas denúncias e, conforme necessário, tomamos as medidas cabíveis. Estamos sempre buscando expandir esse programa e recebemos com satisfação o contato de entidades interessadas.

Na plataforma, oferecemos uma ferramenta robusta de denúncia de abusos que permite que qualquer um dos nossos mais de 100 milhões de usuários ativos diários denuncie comportamentos inadequados no Roblox para análise e possível investigação. Melhoramos continuamente essa interface para facilitar aos usuários o registro de todas as informações necessárias, permitindo que nossas equipes de segurança avaliem possíveis violações com mais rapidez e precisão.

Sabemos que esse trabalho crucial nunca termina. Continuaremos a nos empenhar em todas as frentes para melhorar a segurança online, incluindo o trabalho com formuladores de políticas em leis que protejam crianças e adolescentes, a colaboração com autoridades públicas e com o setor para compartilhar feedback, o apoio a investigações policiais e o aprimoramento de nossos próprios sistemas de segurança para ajudar a manter os usuários seguros no Roblox.