Repenser le chat pour le plaisir, le jeu et la courtoisie

• Une conversation naturelle et fluide est essentielle pour les jeux où des équipes ou des communautés jouent ensemble. 
• Les chaînes de caractères ##### qui remplacent les propos inappropriés peuvent perturber le chat, rendre la conversation difficile à suivre et interrompre le jeu.
• Afin de garantir un chat fluide et respectueux, nous améliorons nos filtres de chat et reformulons les grossièretés en mots conformes à nos directives.
• Il s'agit de la première étape de notre démarche à long terme visant à réduire les ##### pour une expérience de chat plus naturelle. Nous continuerons à apprendre, à itérer et à faire évoluer nos outils afin de favoriser un chat sûr et courtois, notamment grâce à des contrôles supplémentaires pour les utilisateurs.

Chaque jour, des millions de personnes se connectent et jouent sur Roblox, où la communication en temps réel est essentielle pour l'expression des utilisateurs et la coordination du jeu. L'utilisation de filtres IA pour bloquer les textes problématiques (visibles par les utilisateurs sous la forme de #####) a toujours été au cœur de notre approche en matière de sécurité et de promotion d'un comportement civilisé. Ces hachures sont générées en temps réel et aident les utilisateurs à comprendre quand ce qu'ils tapent n'est pas autorisé. Bien sûr, lorsque les utilisateurs enfreignent les règles à plusieurs reprises, ils s'exposent à des conséquences allant au-delà du simple remplacement de leurs mots par ###.

En mai 2025, nous avons mis en place des avertissements proactifs en temps réel pour aider les utilisateurs à comprendre nos politiques. Ceux-ci sont désormais actifs pour le chat textuel et vocal. Ces notifications indiquent aux utilisateurs quand ils ont enfreint une règle, les incitent à revoir leur langage la prochaine fois et les aident à devenir de meilleurs citoyens numériques. Lors d'expériences menées l'année dernière, nous avons constaté que l'envoi de notifications dans le chat textuel et l'application de temps d'attente entraînaient une réduction de 5 % des messages filtrés et une diminution de 6 % des conséquences liées aux signalements d'abus.

Aujourd’hui, nous ajoutons une fonctionnalité supplémentaire pour aider à maintenir un chat textuel courtois au sein de l’expérience : nous utilisons l’IA pour reformuler automatiquement les messages, en commençant par les grossièretés. À mesure que ces systèmes se développent, ils créent une dynamique positive pour la courtoisie, où le retour d’information en temps réel aide les utilisateurs à apprendre et à adopter nos Normes communautaires. Tous les utilisateurs, et pas seulement l'expéditeur du message, voient quel langage est autorisé sur Roblox (et l'expéditeur voit ce qui n'est pas autorisé). Cela fournit davantage de retours aux utilisateurs qui ne connaissent peut-être pas les règles et s'appuie sur notre système de filtrage et d'avertissements en temps réel pour favoriser des conversations sûres, courtoises et amusantes sur Roblox. 

Reformulation des messages en temps réel : passer des panneaux « Stop » aux conseils

Pour de nombreux utilisateurs, une suite de ##### peut constituer une impasse dans la conversation, sans aucune indication sur la manière de reformuler leur langage pour respecter nos Normes communautaires. Cela peut souvent être source de confusion et rendre la collaboration plus difficile au sein des équipes d’un jeu. Imaginez quelqu’un essayant de dire à son ami qu’il y a un monstre derrière lui et tapant quelque chose comme « Attention ! Il y a un putain de monstre derrière toi, ahhh ! » pour l’avertir. L’ami ne voit que « ########### ». Ce n’est pas très utile. 

À partir d’aujourd’hui, le texte filtré sera reformulé dans un langage plus respectueux qui restera naturel pour les utilisateurs de Roblox. Au lancement, cette reformulation en temps réel se concentrera sur les grossièretés. Par exemple, « Dépêche-toi, putain ! » pourrait devenir « Dépêche-toi ! », ce qui est bien plus proche de l’intention initiale que #####. Pour être clair, lorsque nous reformulons un message qui enfreint notre politique en matière de grossièretés, il s’agit toujours d’une infraction et les mêmes règles s’appliquent. Un utilisateur qui continue à tenter de jurer dans le chat subira toujours les mêmes conséquences pour avoir enfreint notre politique à plusieurs reprises. 

Considérez ce système comme un volant plutôt que comme un panneau « Stop » : si un message enfreint notre politique, tous les participants au chat sont informés que le texte a été reformulé afin de préserver la courtoisie. En associant les mots interdits à des expressions que les utilisateurs emploient réellement dans leurs conversations quotidiennes, nous contribuons à maintenir un climat de respect dans le chat sans perdre son authenticité ni son naturel. En remplaçant ces panneaux « Stop » par des conseils en temps réel, nous pouvons réduire une partie de ces frictions tout en renforçant nos règles contre les jurons.

Nous n'en sommes encore qu'aux prémices de la reformulation et de la fourniture de plus de contexte aux utilisateurs lorsque du texte est masqué. Avec le temps, comme tout outil de traduction par IA, il deviendra de plus en plus précis et nuancé dans la manière dont il préserve le ton ou le contexte d'origine de l'utilisateur. Notre priorité reste de mettre en place un moyen sûr et courtois de communiquer sur Roblox, qui continue de privilégier l'information, l'éducation et l'accompagnement de nos utilisateurs à mesure qu'ils apprennent nos normes. 

Si la reformulation réduit une partie des perturbations dans le chat, notre système de sécurité à plusieurs niveaux reste en vigueur pour les comportements plus graves. La reformulation est disponible exclusivement pour le chat au sein des expériences, accessible uniquement entre des utilisateurs dont l'âge a été vérifié et appartenant à des groupes d'âge similaires, ainsi qu'avec leurs « Connexions de confiance ». Les reformulations sont prises en charge dans toutes les langues actuellement disponibles via nos outils de traduction automatique. Notre objectif est d’atteindre un niveau de précision qui nous permette de réduire le nombre de ### jusqu’à ce que nous puissions le supprimer entièrement, rendant ainsi la communication numérique aussi naturelle et claire qu’une conversation en face à face.

Lors du développement de cette fonctionnalité, nous avons consulté les membres de notre Conseil des adolescents afin de créer un système qui reflète la façon dont les adolescents discutent réellement. Sofia, membre du Conseil, nous a confié : « Passer à la reformulation en temps réel préserve le flux de la conversation tout en contribuant à la sécurité de tous. Cela ramène doucement l’interaction sur la bonne voie et aide les gens à se sentir les bienvenus. » 

Jordyn, membre du Conseil des ados, partage cet avis. « Ce changement apprend aux joueurs à réfléchir à leur façon de communiquer et renforce les interactions en favorisant des liens amicaux », a déclaré Jordyn. « Le passage à la reformulation permet de trouver un juste milieu entre les demandes des joueurs et les normes de sécurité nécessaires. »  

Filtres de texte améliorés : passer des modèles au contexte

Nos fonctionnalités de sécurité évoluent en permanence pour rester en phase avec la façon dont les utilisateurs discutent sur Roblox. Nos filtres de texte sont entraînés pour détecter et bloquer tout ce qui va à l’encontre de nos Normes communautaires. Cela doit se faire à l’échelle mondiale et en temps réel, pendant que les utilisateurs discutent.

Au départ, ce système comportait deux composantes : 1) Un système basé sur des règles, conçu pour détecter et bloquer en quelques minutes les contenus qui enfreignent nos règles lorsque des événements se produisent dans le monde réel. 2) Un ensemble de modèles spécialisés entraînés à partir d’un modèle plus large, sur la base d’échantillons simulés et réels qui sont continuellement mis à jour pour inclure les types de langage en constante évolution. 

Ces modèles spécialisés sont très performants pour des tâches spécifiques, comme identifier une liste de mots que nous n’autorisons pas, mais ils ne sont pas très doués pour le raisonnement, et ne parviennent donc pas à détecter les termes en constante évolution. Les modèles extrêmement volumineux ne fonctionnent pas en temps réel, et les erreurs (ou classifications erronées) augmentent souvent le nombre de faux positifs. 

Dans cette mise à jour, nous avons introduit un troisième composant à notre système de filtrage de texte. Désormais, lorsque les modèles spécialisés ne sont pas certains qu’un élément enfreigne les règles ou non, ils sont envoyés vers des modèles très volumineux, plus aptes à raisonner et à évaluer davantage de contexte. Ces grands modèles peuvent prendre des décisions plus complexes. 

Nos expériences montrent que cette approche combinée a considérablement amélioré nos filtres. Ceux-ci sont désormais plus efficaces pour détecter le « leet-speak » (remplacement de lettres par des chiffres ou des symboles) et les tentatives plus sophistiquées de contourner nos filtres. Aucun système n’est parfait, mais nous sommes ravis que cette dernière innovation nous ait permis de réduire de 20 fois la fréquence des faux négatifs concernant le partage ou la sollicitation d’informations personnelles, comme les identifiants de réseaux sociaux ou les numéros de téléphone.

Il s'agit d'une nouvelle approche audacieuse et nous ne reformulerons pas toujours les choses à la perfection. Mais nous continuerons à apprendre et à expérimenter à mesure que nous avançons, et nous continuerons à réduire le nombre de ##### que les utilisateurs voient dans leurs discussions, avec pour objectif à long terme de les supprimer complètement. Notre objectif ultime est de donner aux utilisateurs les moyens de collaborer et de communiquer d'une manière à la fois amusante et respectueuse.