Comment Roblox collabore avec les forces de l'ordre

• Chaque jour, plus de 100 millions d'utilisateurs de tous âges vivent une expérience sûre et positive sur Roblox.
• Nous innovons en permanence pour améliorer nos systèmes de sécurité complets, qui combinent une modération par IA de pointe et l'expertise de milliers de professionnels qualifiés.
• Lorsque ces systèmes détectent les premiers signes d'une activité illicite potentielle, de menaces violentes ou d'autres préjudices dans la vie réelle, nous menons une enquête et, lorsque cela est justifié, prenons les mesures coercitives appropriées, y compris le signalement aux forces de l'ordre.  

La sécurité est au cœur de tout ce que nous faisons chez Roblox : dès le départ, notre plateforme a été conçue pour tous les âges, y compris les utilisateurs de moins de 13 ans. Notre approche repose sur une infrastructure de sécurité à grande échelle et la supervision de milliers de personnes à travers le monde dédiées à la sécurité. Roblox est également un espace fondamentalement différent du reste d’Internet. Nous exigeons une vérification de l’âge pour les discussions non filtrées entre utilisateurs. Toutes les autres discussions, y compris les discussions publiques, sont rigoureusement filtrées et conçues pour empêcher le partage d’informations personnelles identifiables, notamment les numéros de téléphone, les noms d’utilisateur et les liens vers d’autres plateformes en ligne.

Dans le cadre de nos systèmes de modération proactifs, nous utilisons des protocoles de détection avancés et de réponse rapide pour signaler aux forces de l'ordre toute activité illicite potentielle, menace violente ou autre préjudice dans la vie réelle. Nous misons sur une innovation sans relâche, et notre travail en matière de sécurité n’est jamais achevé. Ce partenariat avec les forces de l’ordre — que nous sommes fiers de mettre en avant alors que Roblox participe cette semaine à la 37e conférence annuelle sur les crimes contre les enfants (CACC) — s’inscrit dans le cadre de nos efforts approfondis et multidimensionnels visant à assurer la sécurité de nos utilisateurs.

Nos mesures de sécurité rigoureuses peuvent frustrer les malfaiteurs et les pousser à opérer sur d’autres plateformes. C'est une bonne chose — nous ne voulons pas d'eux sur Roblox — mais nous savons également que bon nombre de nos utilisateurs sont actifs sur plusieurs plateformes et nous voulons contribuer à leur sécurité même lorsqu'ils ne sont pas sur Roblox. C'est l'une des nombreuses raisons pour lesquelles nous collaborons avec les forces de l'ordre du monde entier, tout en veillant à protéger la vie privée de nos utilisateurs. En aidant à identifier et à neutraliser les malfaiteurs, nous cherchons à aider les forces de l'ordre à relier les points entre les différentes plateformes afin de mener des enquêtes plus approfondies et d'intervenir lorsque cela s'avère nécessaire.  

La participation à des conférences sur l'application de la loi, telles que la CACC, n'est qu'un des moyens par lesquels nous collaborons avec les forces de l'ordre pour assurer la sécurité des utilisateurs de Roblox. Grâce à une action de sensibilisation mondiale intensive, nous avons noué des relations solides et durables avec les forces de l'ordre aux niveaux international, fédéral, régional et local. Nous partageons les meilleures pratiques et les enseignements tirés, fournissons des instructions claires sur la manière dont les forces de l'ordre peuvent nous contacter via notre portail dédié, détaillons les types de documents pouvant être fournis en réponse à des demandes légales valides, et sollicitons activement l'avis des forces de l'ordre sur les questions de sécurité. Nous disposons également d'équipes internes spécialisées qui travaillent 24 heures sur 24 pour traiter les demandes des forces de l'ordre, enquêter sur les menaces pesant sur la sécurité de la plateforme et signaler les menaces graves aux autorités compétentes.

Nous entretenons des canaux de communication directs avec des organisations telles que le FBI et le Centre national pour les enfants disparus et exploités (NCMEC), afin de signaler immédiatement les menaces graves que nous identifions. Nous signalons de manière proactive les contenus potentiellement préjudiciables au NCMEC, qui est l’entité de signalement désignée pour le public et les fournisseurs de services électroniques concernant les cas d’exploitation sexuelle présumée d’enfants. En 2024, nous avons transmis 24 522 signalements au NCMEC (soit 0,12 % des 20,3 millions de signalements au total transmis au NCMEC).

De plus, en collaboration avec le NCMEC et les forces de l’ordre, nous avons pris des mesures spécifiques pour améliorer la pertinence de nos signalements au NCMEC, notamment en incluant des informations clés concernant les facteurs aggravants ou les préoccupations d’urgence. Ces mesures permettent au NCMEC et aux forces de l’ordre de trier et d’enquêter plus facilement sur nos signalements. De plus, nous signalons de manière proactive les menaces potentielles pour la sécurité (telles que le terrorisme, l'extrémisme violent ou les menaces de violence individuelles) grâce à une intégration avec le FBI, conçue pour traiter les signalements provenant de plateformes comme la nôtre. Dans tous ces cas, nos équipes internes dédiées se tiennent prêtes 24 heures sur 24 et 7 jours sur 7 pour aider davantage les forces de l'ordre dans le cadre des enquêtes qui en découlent.

Ce défi n'est pas propre à Roblox. Nous sommes en communication constante avec d'autres plateformes, des organisations non gouvernementales et des consortiums universitaires et industriels qui s'efforcent de trouver des solutions pour contrecarrer les acteurs malveillants. Depuis 2018, nous sommes un membre actif de la Tech Coalition, une communauté d'entreprises technologiques qui collaborent pour protéger les enfants en ligne. Nous avons rejoint Lantern en tant que membre fondateur en 2023. Ce programme de partage de signalements multiplateforme, premier du genre, permet aux entreprises participantes de partager des informations et de prendre des mesures contre les acteurs malveillants qui passent d'une plateforme à l'autre. Nous avons également rejoint l'initiative Robust Open Online Safety Tools (ROOST) en tant que partenaire fondateur afin de partager de nouvelles technologies de sécurité susceptibles de faire progresser l'ensemble du secteur, à commencer par notre classificateur de sécurité vocale.

Outre ces organisations, nous collaborons avec les décideurs politiques sur des initiatives clés en matière de sécurité des enfants, la législation et d’autres efforts. Nous avons été la première et l’une des seules entreprises à soutenir la loi californienne « Age-Appropriate Design Code Act » visant à protéger les informations des jeunes utilisateurs. Et nous avons signé une lettre de soutien au projet de loi 933 du Sénat californien (SB 933), qui met à jour les lois de l’État pour interdire expressément les contenus pédopornographiques générés par l’IA.

Les professionnels des forces de l'ordre sont les mieux placés pour enquêter sur les crimes potentiels. C'est pourquoi nous voulons nous assurer que toute infraction commise sur Roblox soit signalée et traitée par les voies appropriées. 

Malheureusement, il arrive que des groupes d'autodéfense ou des individus enfreignent nos politiques pour piéger des utilisateurs ou pour « auto-policié » la plateforme. Bien que ces groupes puissent donner l'impression d'agir dans l'intérêt du public, leurs actions peuvent en réalité nuire à autrui, tant sur notre plateforme qu'en dehors. Par exemple, leurs efforts peuvent permettre à des acteurs malveillants de rester plus longtemps sur la plateforme, simplement pour créer du contenu plus sensationnel sur les réseaux sociaux.

Les actions menées par des groupes d'autodéfense augmentent le risque que davantage d'utilisateurs soient exposés à des personnes malveillantes et peuvent retarder les efforts de mise en application de la loi tant de la part de Roblox que des forces de l'ordre. Tout compte, y compris ceux de groupes d'autodéfense ou d'individus, pris en flagrant délit de violation de nos politiques s'exposera à des sanctions pouvant aller jusqu'à la suppression et l'exclusion, lorsque cela est justifié. Nous appliquons nos politiques conformément à nos Normes communautaires et à nos Conditions d'utilisation générales.

Au lieu de prendre les choses en main, nous encourageons la communauté à signaler tout comportement inapproprié directement à Roblox ou aux forces de l'ordre en utilisant les méthodes de signalement simples décrites ci-dessous.

Nous encourageons tout utilisateur qui pense qu’un crime a été commis à contacter directement les forces de l’ordre locales. Comme décrit ci-dessus, nous travaillons régulièrement en étroite collaboration avec les forces de l’ordre, et lorsque celles-ci nous contactent, nous coopérons avec elles dans toute la mesure du possible. Les utilisateurs peuvent également signaler tout cas potentiel d’exploitation sexuelle d’enfants directement à la CyberTipline du NCMEC. 

En plus de notre collaboration avec les forces de l'ordre, nous avons mis en place un programme « Trusted Flagger », dans le cadre duquel des partenaires proches et de confiance peuvent nous signaler des activités criminelles graves potentielles (telles que le terrorisme, l'extrémisme violent ou l'exploitation d'enfants). Nous examinons rapidement ces signalements et, si nécessaire, prenons les mesures qui s'imposent. Nous cherchons constamment à étendre ce programme et accueillons volontiers les prises de contact d'entités intéressées.

Sur la plateforme, nous proposons un outil de signalement des abus performant qui permet à chacun de nos plus de 100 millions d’utilisateurs actifs quotidiens de signaler tout comportement inapproprié sur Roblox en vue d’un examen et d’une éventuelle enquête. Nous améliorons continuellement cette interface afin de faciliter la saisie de toutes les informations nécessaires par les utilisateurs, ce qui permet à nos équipes de sécurité d’évaluer les violations potentielles plus rapidement et avec plus de précision.

Nous savons que ce travail crucial n'est jamais terminé. Nous continuerons à agir sur tous les fronts pour améliorer la sécurité en ligne, notamment en travaillant avec les décideurs politiques sur des lois qui protègent les enfants et les adolescents, en collaborant avec les autorités publiques et l'ensemble du secteur pour partager des retours d'expérience, en soutenant les enquêtes des forces de l'ordre et en renforçant nos propres systèmes de sécurité afin de contribuer à la sécurité des utilisateurs sur Roblox.