Ripensare la chat per divertimento, gioco e civiltà

• Una chat naturale e fluida è fondamentale per i giochi in cui squadre o comunità giocano insieme. 
• Le stringhe di ##### che sostituiscono il linguaggio inappropriato possono disturbare la chat, renderla difficile da seguire e interrompere il gioco.
• Per aiutare a mantenere la chat fluida e rispettosa, stiamo migliorando i nostri filtri di chat e riformulando le parolacce in parole che rientrano nelle nostre linee guida.
• Questo è il primo passo del nostro percorso a lungo termine per ridurre i ##### e garantire un'esperienza di chat più naturale. Continueremo ad apprendere, iterare ed evolvere i nostri strumenti per favorire una chat sicura e civile, includendo ulteriori controlli per gli utenti.

Ogni giorno, milioni di persone si connettono e giocano su Roblox, dove la comunicazione in tempo reale è importante per l'espressione degli utenti e il coordinamento del gioco. L'uso di filtri basati sull'intelligenza artificiale per bloccare i testi problematici (visibili agli utenti come #####) è sempre stato centrale nel nostro approccio alla sicurezza e al miglioramento della civiltà. Questi simboli di hash vengono generati in tempo reale e aiutano gli utenti a capire quando qualcosa che scrivono non è consentito. Naturalmente, quando gli utenti infrangono ripetutamente le regole, dovranno affrontare conseguenze che vanno oltre la semplice sostituzione delle loro parole con ###.

Nel maggio 2025 abbiamo introdotto avvisi proattivi in tempo reale per aiutare gli utenti a comprendere le nostre politiche. Questi sono ora attivi sia per la chat testuale che per quella vocale. Queste notifiche informano gli utenti quando hanno infranto una regola, li invitano a riconsiderare il loro linguaggio la prossima volta e li aiutano a diventare cittadini digitali migliori. Negli esperimenti dello scorso anno, abbiamo visto che l'invio di notifiche nella chat di testo all'interno dell'esperienza e i time-out hanno portato a una riduzione del 5% dei messaggi di chat filtrati e a una riduzione del 6% delle conseguenze derivanti dalle segnalazioni di abuso.

Oggi aggiungiamo una funzionalità in più per aiutare a mantenere civile la chat di testo all'interno dell'esperienza: stiamo sfruttando l'IA per riformulare automaticamente i messaggi, a partire dalle parolacce. Man mano che questi sistemi si espandono, creano un circolo virtuoso di civiltà, in cui il feedback in tempo reale aiuta gli utenti a imparare e ad adottare i nostri Standard della community. Tutti gli utenti, non solo il mittente del messaggio, vedono quale linguaggio è consentito su Roblox (e il mittente vede ciò che non è consentito). Questo fornisce un maggiore feedback agli utenti che potrebbero non conoscere le regole e si basa sul nostro sistema di filtraggio e avvisi in tempo reale per aiutare a sostenere conversazioni sicure, civili e divertenti su Roblox. 

Riformulazione della chat in tempo reale: passare dai segnali di stop alla guida

Per molti utenti, una stringa di ##### può rappresentare un vicolo cieco nella conversazione, senza alcuna guida su come riformulare il proprio linguaggio per rispettare i nostri Standard della community. Questo spesso può causare confusione e rendere più difficile la collaborazione tra i team all'interno di un gioco. Immaginate qualcuno che cerchi di dire a un amico che c'è un mostro dietro di lui e che digiti qualcosa del tipo "Attento! C'è un fottuto mostro alle tue spalle!" per avvertirlo. L'amico vede solo "###########". Non è molto d'aiuto. 

A partire da oggi, il testo filtrato verrà tradotto in un linguaggio più rispettoso che risulti comunque naturale per gli utenti di Roblox. Al momento del lancio, questa riformulazione in tempo reale si concentra sulle parolacce. Ad esempio, "Sbrigati, cazzo!" potrebbe diventare "Sbrigati!", che è molto più vicino all'intento originale rispetto a #####. Per essere chiari, quando riformuliamo un messaggio che viola la nostra politica sulle parolacce, si tratta comunque di una violazione e si applicano le stesse regole. Un utente che continua a cercare di dire parolacce in chat subirà comunque le stesse conseguenze per aver violato ripetutamente la nostra politica. 

Pensate a questo sistema come a un volante, piuttosto che a un segnale di stop: se un messaggio viola la nostra politica, tutti nella chat vengono avvisati che il testo è stato riformulato per mantenere un tono civile. Abbinando le parole vietate alle frasi che gli utenti usano effettivamente nelle chat quotidiane, contribuiamo a mantenere la chat rispettosa senza perdere l'autenticità o la fluidità. Sostituendo questi segnali di stop con una guida in tempo reale, possiamo ridurre parte di quell'attrito e rafforzare comunque le nostre regole contro le parolacce.

Siamo ancora agli inizi per quanto riguarda la riformulazione e la fornitura di un contesto più ampio agli utenti quando il testo viene bloccato. Col tempo, come qualsiasi strumento di traduzione basato sull'intelligenza artificiale, diventerà sempre più accurato e ricco di sfumature nel modo in cui preserva il tono o il contesto originale dell'utente. La nostra priorità rimane quella di costruire un modo sicuro e civile di comunicare su Roblox che continui a dare priorità all'informazione, all'educazione e alla guida dei nostri utenti mentre imparano i nostri standard. 

Sebbene la riformulazione riduca parte dei disagi nella chat, il nostro sistema di sicurezza a più livelli rimane in vigore per i comportamenti più gravi. La riformulazione è disponibile esclusivamente per la chat all'interno dell'esperienza, accessibile solo tra utenti di età verificata appartenenti a fasce d'età simili e i loro Contatti Fidati. Le riformulazioni sono supportate in tutte le lingue attualmente disponibili tramite i nostri strumenti di traduzione automatica. Il nostro obiettivo è raggiungere un livello di accuratezza che ci consenta di ridurre il ### fino a quando non potremo eliminarlo del tutto, rendendo la comunicazione digitale naturale e chiara come una conversazione di persona.

Durante lo sviluppo di questa funzione, ci siamo consultati con i membri del nostro Teen Council per creare un sistema che riflettesse il modo in cui gli adolescenti chattano realmente. Sofia, membro del Consiglio, ci ha detto: "Passare alla riformulazione in tempo reale preserva il flusso della conversazione, contribuendo al contempo a garantire la sicurezza di tutti. Guida delicatamente l'interazione sulla strada giusta e aiuta le persone a sentirsi benvenute". 

Jordyn, membro del Teen Council, è d'accordo. "Questo cambiamento insegna ai giocatori a riflettere su come comunicano e rafforza l'interazione favorendo relazioni amichevoli", ha affermato Jordyn. "Passando alla riformulazione, si crea un compromesso tra le richieste dei giocatori e gli standard di sicurezza necessari".  

Filtri di testo migliorati: dall'evoluzione dei modelli al contesto

Le nostre funzionalità di sicurezza si evolvono continuamente per rimanere al passo con il modo in cui gli utenti chattano su Roblox. I nostri filtri di testo sono addestrati a rilevare e bloccare qualsiasi cosa che violi i nostri Standard della community. Ciò deve avvenire su scala globale e in tempo reale, mentre gli utenti stanno chattando.

Inizialmente, questo sistema aveva due componenti: 1) Un sistema basato su regole progettato per rilevare e bloccare i contenuti che violano le nostre regole in pochi minuti quando si verificano eventi nel mondo reale. 2) Una serie di modelli specializzati addestrati a partire da un modello più ampio, basato su una serie di campioni simulati e reali che vengono continuamente aggiornati per includere i tipi di linguaggio in evoluzione. 

Questi modelli specializzati sono molto efficaci in compiti specifici, come individuare un elenco di parole che non consentiamo, ma non sono in grado di ragionare molto bene, quindi non sono efficaci nell’individuare termini in evoluzione. I modelli estremamente grandi non funzionano in tempo reale e le allucinazioni (o le errate categorizzazioni) spesso aumentano i falsi positivi. 

In questo aggiornamento, abbiamo introdotto una nuova, terza componente nel nostro sistema di filtraggio del testo. Ora, quando i modelli specializzati non sono certi se qualcosa stia violando le regole o meno, vengono inviati a modelli molto grandi che sono più bravi a ragionare e a valutare un contesto più ampio. Questi modelli di grandi dimensioni possono prendere decisioni più complesse. 

I nostri esperimenti dimostrano che questo approccio combinato ha migliorato significativamente i nostri filtri. I filtri ora sono in grado di rilevare meglio il "leet-speak", ovvero lettere sostituite da numeri o simboli, e tentativi più sofisticati di aggirare i nostri filtri. Nessun sistema è mai perfetto, ma siamo entusiasti che questa innovazione più recente ci abbia permesso di ridurre di 20 volte la prevalenza di falsi negativi per la condivisione o la richiesta di informazioni personali, come account social o numeri di telefono.

Si tratta di un approccio nuovo e audace e non sempre riusciremo a riformulare le cose alla perfezione. Ma continueremo ad imparare e a sperimentare man mano che andiamo avanti e continueremo a ridurre il numero di ##### che gli utenti vedono nelle loro chat, con l'obiettivo a lungo termine di eliminarli del tutto. Il nostro obiettivo finale è consentire agli utenti di collaborare e connettersi in un modo che sia sia divertente che rispettoso.