Resumo de segurança: dezembro
Verificação de idade para chat é implementada na Austrália, Nova Zelândia e Holanda; lançamento global em breve
Assim como no mundo real, acreditamos que as conversas entre adolescentes mais velhos podem não ser apropriadas para adultos e vice-versa. Portanto, com o lançamento da verificação de idade, também estamos limitando a comunicação entre adultos e menores. Fizemos uma parceria com especialistas em desenvolvimento infantil para nos ajudar a definir faixas etárias sensatas que possam conversar entre si no Roblox.
A Agência Nacional contra o Crime (NCA) preside um grupo de aplicação da lei que inclui o FBI, a Polícia Federal Australiana e a Polícia da Nova Zelândia. Um porta-voz da agência afirmou: “Uma tecnologia de verificação de idade robusta e altamente eficaz desempenha um papel fundamental na manutenção da segurança dos usuários infantis online, ajudando a protegê-los de conteúdos prejudiciais e ilegais e de interações de alto risco, enquanto desenvolvem habilidades de alfabetização digital adequadas à sua idade.”
Embora seja amplamente reconhecido que todas as grandes plataformas online tenham sua parcela de usuários jovens, o Roblox é único por reconhecer esse fato e adotar uma abordagem de segurança para todas as idades. Não criptografamos a comunicação entre usuários, monitoramos todas as atividades em busca de sinais de danos graves, não permitimos que usuários compartilhem imagens ou vídeos no chat e reportamos rapidamente possíveis problemas às autoridades policiais quando detectados.
Nossa abordagem em camadas para a segurança
Assim como as montadoras não dependem apenas de cintos de segurança para manter os motoristas seguros, a Roblox emprega uma abordagem em várias camadas para a segurança. Os carros modernos têm muitos elementos (airbags, sensores, etc.) que trabalham juntos para manter os motoristas seguros. Embora as verificações de idade na Roblox representem uma melhoria significativa em relação ao padrão da indústria de idade autodeclarada, elas são apenas uma camada em nossa abordagem geral de segurança. Além dessa nova tecnologia, mantemos políticas e Padrões da Comunidade que são propositalmente mais rigorosos do que os da maioria das outras plataformas. Não permitimos palavrões nem o compartilhamento de imagens ou informações de identificação pessoal entre usuários que não sejam Conexões de Confiança. Para usuários menores de 18 anos, não permitimos representações de drogas ou álcool.
Modelos avançados de IA monitoram os bilhões de conteúdos adicionados ao Roblox todos os dias e bloqueiam ou removem conteúdos que violam nossos Padrões da Comunidade. Contamos com o apoio de milhares de profissionais de segurança para esses modelos, pois sabemos que a IA é apenas uma camada nesse processo. Também mantemos uma parceria estreita com organizações de defesa dos pais e de saúde mental, autoridades policiais e governamentais sobre as melhores práticas, as políticas e diretrizes mais recentes e novas pesquisas sobre o que pais e usuários esperam de nós.
Nosso objetivo é detectar qualquer conteúdo problemático antes que os usuários o vejam ou interajam com ele. Sabemos que nenhum sistema é perfeito, por isso também facilitamos para que os usuários denunciem qualquer coisa que possam identificar. Essas denúncias não apenas nos ajudam a remover conteúdo impróprio, mas também nos ajudam a treinar e fortalecer nosso sistema. Acreditamos que as verificações de idade serão uma nova peça importante do nosso sofisticado ecossistema de segurança.
As verificações de idade nos ajudam a oferecer a todos os nossos usuários experiências e comunicações adequadas à idade, mas sabemos que sempre há mais a ser feito. Estamos continuamente otimizando e adicionando camadas ao nosso sistema mais amplo à medida que novas tecnologias se tornam disponíveis. Lançamos mais de 145 melhorias de segurança somente neste ano, e temos mais por vir.
