Panoramica sulla sicurezza: dicembre
Controlli dell'età per la chat in fase di implementazione in Australia, Nuova Zelanda e Paesi Bassi; lancio imminente a livello globale
Proprio come nel mondo reale, riteniamo che le conversazioni tra adolescenti più grandi possano non essere appropriate per gli adulti e viceversa. Pertanto, con l'introduzione dei controlli sull'età, stiamo anche limitando la comunicazione tra adulti e minori. Abbiamo collaborato con esperti di sviluppo infantile per definire fasce d'età ragionevoli che possano interagire tra loro su Roblox.
La National Crime Agency presiede un gruppo di forze dell'ordine che include l'FBI, la Polizia Federale Australiana e la Polizia della Nuova Zelanda. Un portavoce dell'agenzia ha dichiarato: "Una tecnologia di verifica dell'età solida e altamente efficace svolge un ruolo fondamentale nel mantenere la sicurezza degli utenti minorenni online, aiutando a proteggerli da contenuti dannosi e illegali e da interazioni ad alto rischio, mentre sviluppano competenze di alfabetizzazione digitale adeguate alla loro età".
Sebbene sia ampiamente riconosciuto che tutte le grandi piattaforme online abbiano la loro quota di utenti giovani, Roblox è unica in quanto riconosce questo fatto e adotta un approccio alla sicurezza adatto a tutte le età. Non crittografiamo le comunicazioni tra gli utenti, monitoriamo tutte le attività alla ricerca di segni di danni gravi, non permettiamo agli utenti di condividere immagini o video nelle chat e segnaliamo prontamente alle forze dell’ordine eventuali problemi individuati.
Il nostro approccio multilivello alla sicurezza
Proprio come le case automobilistiche non si affidano solo alle cinture di sicurezza per garantire la sicurezza dei conducenti, Roblox adotta un approccio multilivello alla sicurezza. Le auto moderne dispongono di molti elementi (airbag, sensori, ecc.) che lavorano insieme per garantire la sicurezza dei conducenti. Sebbene i controlli dell’età su Roblox rappresentino un miglioramento significativo rispetto allo standard del settore basato sull’età autodichiarata, costituiscono solo uno dei livelli del nostro approccio globale alla sicurezza. Oltre a questa nuova tecnologia, manteniamo politiche e Standard della Comunità che sono volutamente più rigorosi rispetto a quelli della maggior parte delle altre piattaforme. Non consentiamo l'uso di parolacce né la condivisione di immagini o informazioni di identificazione personale tra utenti che non siano "Connessioni fidate". Per gli utenti di età inferiore ai 18 anni, non consentiamo rappresentazioni di droghe o alcol.
Modelli avanzati di IA monitorano i miliardi di contenuti aggiunti ogni giorno su Roblox e bloccano o rimuovono quelli che violano i nostri Standard della community. A supporto di questi modelli abbiamo migliaia di professionisti della sicurezza, perché sappiamo che l'IA è solo uno dei livelli di questo processo. Collaboriamo inoltre strettamente con organizzazioni di sostegno ai genitori e di salute mentale, forze dell'ordine e funzionari governativi sulle migliori pratiche, le politiche e le linee guida più recenti e le nuove ricerche su ciò che genitori e utenti si aspettano da noi.
Il nostro obiettivo è individuare qualsiasi contenuto problematico prima che gli utenti lo vedano o interagiscano con esso. Sappiamo che nessun sistema è perfetto, quindi rendiamo anche facile per gli utenti segnalare qualsiasi cosa possano individuare. Queste segnalazioni non solo ci aiutano a rimuovere i contenuti inappropriati, ma ci aiutano anche a addestrare e rafforzare il nostro sistema. Crediamo che i controlli dell'età saranno un nuovo elemento importante del nostro sofisticato ecosistema di sicurezza.
I controlli sull'età ci aiutano a fornire a tutti i nostri utenti esperienze e comunicazioni adeguate alla loro età, ma sappiamo che c'è sempre molto da fare. Ottimizziamo e integriamo continuamente il nostro sistema man mano che diventano disponibili nuove tecnologie. Solo quest'anno abbiamo rilasciato oltre 145 miglioramenti alla sicurezza e ne abbiamo altri in arrivo.
