Promuovere la civiltà e la sicurezza per tutti gli utenti

Roblox ha dedicato quasi due decenni a rendere la piattaforma uno degli ambienti online più sicuri per i nostri utenti, in particolare per i più giovani. La nostra visione guida è quella di creare la comunità più sicura e civile al mondo.

Man mano che la nostra piattaforma si evolve e cresce, forgiando un nuovo futuro per la comunicazione e la connessione, il nostro investimento in misure di sicurezza preventive rimane fondamentale. Per essere i migliori al mondo nel fornire esperienze online sicure e civili, questo è essenziale. Con il passare degli anni, implementiamo nuove strategie e tecnologie per migliorare la velocità e l'efficacia dei nostri sistemi di sicurezza e moderazione.

Ogni giorno, decine di milioni di persone di tutte le età vivono un'esperienza sicura e positiva su Roblox, rispettando i nostri Standard della community. Ad esempio, come illustrato nel nostro ultimo Rapporto annuale sulla trasparenza, gli utenti di Roblox hanno generato e caricato circa 205 miliardi di contenuti complessivi sulla piattaforma di Roblox, ognuno dei quali è stato esaminato dai nostri strumenti di moderazione dei contenuti. Solo lo 0,0063% di quel contenuto totale è stato segnalato come violazione delle nostre politiche su questioni quali il bullismo, l’incitamento all’odio e l’estremismo violento tramite i nostri sistemi di rilevamento e segnalazione. Non è una coincidenza che le nostre politiche siano significativamente più severe di quelle presenti sui social network e sulle piattaforme di contenuti generati dagli utenti, e coprano ogni aspetto, dalle parolacce agli standard pubblicitari.

Misuriamo continuamente un'ampia gamma di metriche interne, utilizzando sia sistemi automatizzati che umani, che spaziano dal bullismo al linguaggio inappropriato. Questo approccio guida il nostro lavoro nel promuovere le interazioni più sicure e civili su Internet e, a livello più elementare, significa che possiamo affermare che i problemi di sicurezza non sono diffusi né sistemici su Roblox. E l'impegno in questo lavoro è fondamentale: anche noi facciamo parte di famiglie e sappiamo che anche un solo incidente che coinvolga la salute o la sicurezza dei bambini è terribile. Siamo profondamente solidali con le famiglie e le persone che ne sono state colpite.

Abbiamo costruito una piattaforma fondata sulla sicurezza

Ogni team di Roblox contribuisce a garantire che i prodotti siano progettati tenendo conto della sicurezza. Oltre al 10% dei nostri dipendenti a tempo pieno e alle migliaia di collaboratori esterni che si concentrano esclusivamente sulla fiducia e sulla sicurezza, altre centinaia di dipendenti di Roblox lavorano per sviluppare e migliorare la tecnologia su cui si basa il nostro team Trust & Safety. Inoltre, la nostra leadership si impegna a garantire che questi team dispongano sempre delle risorse adeguate. Spendiamo centinaia di milioni di dollari ogni anno per adempiere alla nostra missione di sicurezza.

I nostri recenti progressi nell'IA hanno migliorato la sicurezza su Roblox. I modelli linguistici di grandi dimensioni, l'IA multimodale e i modelli personalizzati che identificano i problemi di sicurezza nel linguaggio parlato hanno aumentato l'accuratezza e l'efficienza della moderazione. Per garantire l'integrità dei nostri sforzi, implementiamo l'automazione basata sull'IA solo dopo aver dimostrato che produce risultati più accurati rispetto agli esseri umani quando applicata su larga scala. Sebbene l'IA abbia automatizzato alcune attività umane, ha anche permesso al nostro personale di concentrarsi su indagini più complesse, tra cui l'applicazione della nostra politica che vieta l'adescamento di minori e la richiesta delle loro informazioni personali.

Abbiamo un approccio alla sicurezza su più fronti e interconnesso

• Gli aggiornamenti e le funzionalità significativi vengono sottoposti a un rigoroso processo "Trust by Design" per raccogliere feedback e identificare potenziali problemi di sicurezza ben prima dello sviluppo.
• Moderiamo in modo proattivo tutte le comunicazioni sulla piattaforma attraverso una combinazione di IA e revisione umana. Se vengono identificati segni di danno grave, questi vengono segnalati al nostro team di indagine.
• Parole e frasi inappropriate vengono filtrate da tutte le comunicazioni testuali utilizzando rigorosi filtri automatizzati leader del settore.
• Il nostro sistema di comunicazione vocale fornisce un feedback in tempo reale agli utenti che violano le nostre politiche. Ciò ha portato a un comportamento significativamente più civile su Roblox.
• Per gli utenti di età inferiore ai 13 anni, i nostri filtri bloccano la condivisione di informazioni personali e i tentativi di portare le conversazioni al di fuori di Roblox, dove gli standard di sicurezza e la moderazione sono meno rigorosi.
• Non permettiamo agli utenti di scambiarsi immagini o video tramite messaggi vocali o di testo su Roblox.
• Tutti i contenuti caricati su Roblox, inclusi immagini, file video e audio, modelli 3D e testo, vengono sottoposti a un processo di revisione completo che utilizza un'intelligenza artificiale multimodale potenziata dall'intervento umano.
• Il nostro team dedicato alla sicurezza condivide costantemente approfondimenti e linee guida all'interno dell'azienda per migliorare la sicurezza della nostra piattaforma e dei nostri prodotti.

Garantiamo agli utenti un accesso facile e costante alle funzionalità che consentono loro di segnalare contenuti offensivi, volgari o comunque inappropriati per la nostra comunità online. La funzione "Segnala abuso", ben visibile in tutto Roblox, anche all'interno delle esperienze, permette agli utenti di segnalare facilmente contenuti o comportamenti inappropriati, e incoraggiamo i nostri utenti a utilizzarla.

I genitori possono limitare o disabilitare le funzionalità di chat online, personalizzare l'accesso alle esperienze in base alle raccomandazioni relative all'età e selezionare opzioni per i limiti di spesa. Il feedback degli utenti, dei genitori e degli altri membri della nostra comunità è uno dei migliori strumenti a nostra disposizione per migliorare i nostri prodotti. Esploriamo continuamente diversi modi per aggiornare i nostri sistemi di controllo parentale al fine di renderli ancora più utili.

Siamo profondamente impegnati ad affrontare la sfida della sicurezza online a livello di settore

La sicurezza e la civiltà online, in particolare la sicurezza dei giovani utenti, è una questione che riguarda l'intero settore e su cui stiamo collaborando attivamente con le forze dell'ordine, le principali organizzazioni del settore e i responsabili politici. Siamo consapevoli che ci sono persone malintenzionate là fuori e siamo profondamente turbati da qualsiasi segnalazione di pericolo per i minori. Questo è il motivo per cui Roblox, ad esempio, è stata la prima, e una delle poche, aziende a sostenere il California Age-Appropriate Design Code Act e, più recentemente, ha firmato una lettera di sostegno al disegno di legge californiano SB 933, che aggiorna le leggi statali per vietare espressamente il materiale pedopornografico generato dall'intelligenza artificiale.

Collaboriamo con le forze dell'ordine per rintracciare i responsabili

Nel corso degli anni, abbiamo instaurato rapporti profondi e duraturi con le forze dell'ordine a livello internazionale, federale e statale, e condividiamo regolarmente le migliori pratiche. Forniamo indicazioni chiare su come le forze dell'ordine possono contattare il nostro team, comprese le risorse che mettiamo a disposizione online per collegare le forze dell'ordine direttamente al Portale delle forze dell'ordine di Roblox. Segnaliamo inoltre in modo proattivo potenziali minacce alla sicurezza alle forze dell'ordine tramite un'integrazione con il team EXTRACT dell'FBI, progettato per gestire le segnalazioni provenienti da piattaforme come la nostra.

Segnaliamo in modo proattivo i contenuti potenzialmente rischiosi al National Center for Missing & Exploited Children (NCMEC). La CyberTipline dell'NCMEC è un meccanismo di segnalazione designato per il pubblico e i fornitori di servizi elettronici (ESP) per segnalare casi di sospetto sfruttamento sessuale di minori. Nel 2023, Roblox ha segnalato 13.316 incidenti all'NCMEC (Roblox preferisce peccare per eccesso di cautela e, di conseguenza, ha una soglia di segnalazione più bassa rispetto ad altre piattaforme). Per contestualizzare il volume degli incidenti su Roblox, nel 2023 la CyberTipline ha ricevuto più di 35 milioni di segnalazioni relative a incidenti su altre piattaforme da parte di altri ESP.

Stiamo ampliando le nostre relazioni, ricerche e collaborazioni a livello di settore per trovare insieme nuove soluzioni 

Comunichiamo e collaboriamo anche all'interno del nostro settore. Consapevoli che aumentare la civiltà e la sicurezza della comunicazione online è una questione che riguarda l'intero settore, siamo in costante comunicazione con altre piattaforme, ONG e consorzi accademici/industriali che lavorano per trovare soluzioni per contrastare i malintenzionati. Roblox, ad esempio, è membro attivo della Tech Coalition dal 2018 e ha aderito a Lantern come membro fondatore. Questo programma di condivisione dei segnali multipiattaforma, primo nel suo genere, consente alle aziende partecipanti di condividere informazioni e intervenire sui malintenzionati che si spostano da una piattaforma all'altra.

"Roblox rimane un membro prezioso della Tech Coalition, anche come parte del nostro Consiglio di Amministrazione. Ha dimostrato leadership all'interno dei nostri gruppi di lavoro, contribuendo a decisioni critiche a livello di settore, come l'impegno della Tech Coalition a favore di Lantern e lo sviluppo di roadmap settoriali, tra le altre cose. Questo lavoro aiuta Roblox e l'industria in generale a sviluppare le capacità per combattere lo sfruttamento e l'abuso sessuale dei minori online." Sean Litton, Direttore Esecutivo, Tech Coalition

Lavoriamo inoltre per migliorare la sicurezza in tutto il settore attraverso l'open source e la collaborazione con i partner. L'anno scorso, ad esempio, il Digital Wellness Lab del Boston Children's Hospital e i dirigenti di Roblox hanno riunito oltre 100 tra i massimi esperti di sicurezza e civiltà provenienti da tutto il mondo per condividere idee e creare un quadro di riferimento sulle misure necessarie in materia di innovazione tecnologica, politiche e istruzione per rendere il mondo online uno spazio veramente sicuro e civile, in particolare per i giovani, e per consentire a esperti di diverse discipline di esprimere il proprio parere e discutere la sfida in qualità di membri del Civility Working Group.

La nostra stretta collaborazione con questa vasta gamma di organizzazioni pubbliche e private, tra cui gruppi di sostegno ai genitori, organizzazioni per la salute mentale e agenzie governative, ci fornisce inoltre preziose informazioni sulle preoccupazioni di genitori, responsabili politici e altri soggetti in merito alla sicurezza online, mentre condividiamo le nostre conoscenze e soluzioni tecnologiche.

Sosteniamo inoltre politiche che siano in linea con queste conoscenze e che siano nel migliore interesse dei giovani.

Le nostre iniziative in materia di sicurezza e civiltà sono state riconosciute da numerose organizzazioni del settore e della società civile incentrate sulla sicurezza. Tra queste figurano Save the Children, il Digital Wellness Lab, Connect Safely, l'Ufficio delle Nazioni Unite del Rappresentante Speciale del Segretario Generale sulla violenza contro i bambini e il Family Online Safety Institute (FOSI).

"Fin dai nostri primi incontri con Roblox, siamo rimasti colpiti dal loro impegno per la sicurezza. Questo impegno parte dal loro CEO e abbiamo avuto l'opportunità di fornire critiche costruttive attraverso il loro Comitato consultivo per la fiducia e la sicurezza. Roblox ha costantemente mantenuto un ruolo di leadership quando si tratta di sicurezza online in generale e delle politiche e degli strumenti che hanno creato specificamente per le loro comunità online." Stephen Balkam, CEO, Family Online Safety Institute

Continueremo a lavorare instancabilmente per garantire la sicurezza dei nostri utenti e a vigilare sui malintenzionati che potrebbero tentare di aggirare i nostri sistemi di sicurezza. Riconosciamo inoltre che questo lavoro fondamentale non finisce mai. Ci impegniamo a investire e ad adattarci continuamente per affrontare il panorama delle minacce in continua evoluzione e garantire la sicurezza della nostra comunità. Stiamo già lavorando alla prossima generazione di strumenti e funzionalità di sicurezza, nel tentativo di continuare a essere all'avanguardia nel futuro della sicurezza e della civiltà online.