Meer over onze verwijdering van Vigilantes uit Roblox

• We delen meer informatie over waarom het nodig was om vigilantes van Roblox te verwijderen, en de manieren waarop we meldingen van misbruik op Roblox beoordelen en hierop reageren.
• Hoewel ze ogenschijnlijk goedbedoeld waren, hebben de vigilantes die we hebben verbannen acties ondernomen die zowel onaanvaardbaar zijn als een onveilige omgeving voor gebruikers creëren.
• Net als echte roofdieren deden ze zich vaak voor als minderjarigen, benaderden ze actief andere gebruikers en probeerden ze hen vervolgens naar andere platforms te leiden om seksueel expliciete gesprekken te voeren (wat in strijd is met onze gebruiksvoorwaarden).
• Nauwkeurige, tijdige meldingen van onze community zijn belangrijk. Het melden via de juiste kanalen, waaronder onze speciaal ontworpen meldingstools, onmiddellijk en met zoveel mogelijk specifieke informatie, is de beste manier om ons te helpen slechte actoren van Roblox te verwijderen. 
• Deze meldingstools zijn ontworpen om belangrijke metadata en details vast te leggen die niet via een e-mail of screenshot kunnen worden vastgelegd, en maken snellere, effectievere beoordelingen en grondigere rapportage aan wetshandhavingsinstanties mogelijk, indien nodig.

Ons besluit om vigilantes van het Roblox-platform te verwijderen, zoals we onlangs hebben uiteengezet, heeft vragen opgeroepen en tot discussie geleid. Omwille van de transparantie delen we meer informatie over de maatregelen die we hebben genomen, waarom deze noodzakelijk waren en de manieren waarop we meldingen van misbruik op Roblox onderzoeken en hierop reageren.

We beseffen dat geen enkel platform perfect is, maar we geven prioriteit aan vertrouwen en veiligheid omdat dit de kern vormt van wat we als bedrijf doen. Dit is een gebied waarin we zwaar investeren en voortdurend innoveren. Het helpen waarborgen van de veiligheid van onze gebruikers is een cruciaal onderdeel van onze visie om een miljard mensen met elkaar te verbinden op basis van optimisme en beleefdheid, en is een strategische noodzaak voor onze community van makers. Ons doel is om een ontwikkelingsplatform te bieden waarop makers zich kunnen concentreren op hun vak, terwijl wij de complexiteit van moderatie, het afhandelen van meldingen van gebruikers en het onderzoeken van kwaadwillenden op ons nemen.

Elke dag sturen gemiddeld 111,8 miljoen dagelijkse actieve gebruikers¹ op Roblox 6,1 miljard chatberichten en voeren ze 1,1 miljoen uur aan voicechats in 28 verschillende talen. Tegelijkertijd uploaden makers miljoenen assets en voegen ze duizenden items toe aan onze Avatar Marketplace. Hoewel de overgrote meerderheid van deze miljarden berichten en creaties veilig en beleefd is, proberen kwaadwillenden regelmatig onze moderatiesystemen te omzeilen. Daarom blijven we aanzienlijk investeren in veiligheid, om gebruikers tegen deze kwaadwillenden te beschermen. Dankzij onze gepassioneerde community van makers en gebruikers ontvangen en beoordelen we ook meer dan 1 miljard meldingen per jaar – deze variëren van chatspam, scheldwoorden en valsspelen tot ernstigere overtredingen. In sommige gevallen zijn deze meldingen helemaal geen overtredingen (gebruikers kunnen dingen te goeder trouw melden zonder ons beleid volledig te begrijpen). 

We volgen de activiteiten van burgerwachten op Roblox al enige tijd. Deze groepen begonnen met het melden van veiligheidsproblemen, het geven van commentaar op nieuws over Roblox en het aansporen van ons om het beter te doen. We waardeerden deze feedback en gebruikten deze meldingen om onze veiligheidssystemen te verbeteren. Meer recentelijk zijn de activiteiten van deze burgerwachten geëvolueerd. In plaats van alleen maar veiligheidsproblemen te melden, begonnen burgerwachten zich voor te doen als kinderen en zochten ze actief contact met volwassen gebruikers. Die gesprekken bootsten ongepast gedrag na en moedigden andere gebruikers actief aan om contact te leggen op andere sociale media en berichtenplatforms, waardoor ze de eigen veiligheidssystemen van Roblox omzeilden. 

Dit waren geen eenmalige situaties en we zagen het gedrag zich op veel accounts uitbreiden. Deze activiteit creëerde een onveilige omgeving en normaliseerde gedrag dat zowel onaanvaardbaar is op Roblox als in strijd is met onze Gebruiksvoorwaarden. Ons beleid verbiedt het om andere gebruikers via chat van Roblox naar een ander platform te leiden en seksueel expliciete gesprekken te voeren of te simuleren. Dit zijn ernstige schendingen van het beleid die kunnen leiden tot verwijdering van het platform. 

Geen van de hierboven besproken activiteiten is toegestaan op Roblox. We hebben teams die zich bezighouden met het beoordelen en onderzoeken van de meldingen die we ontvangen. Wanneer we vaststellen dat er overtredingen hebben plaatsgevonden, handelen we in overeenstemming met ons beleid – tot en met het permanent verwijderen van gebruikers van Roblox en het melden aan wetshandhavingsinstanties wanneer dat gerechtvaardigd is.

Om privacyredenen kunnen we gebruikers niet laten weten of hun meldingen tot consequenties hebben geleid. We willen de privacy van onze gebruikers beschermen, ook al werken we eraan om hen te beschermen. We werken ook samen met de politie, waarbij we de officiële wettelijke richtlijnen volgen over wanneer het gepast is om met hen samen te werken, en we verstrekken informatie om hen te helpen kwaadwillenden op verschillende platforms op te sporen, zodat gebruikers ook buiten Roblox veilig blijven. In 2024 hebben we 24.522 meldingen (0,12% van de in totaal 20,3 miljoen meldingen in de hele sector) ingediend bij het National Center for Missing and Exploited Children (NCMEC). Als onderdeel van onze sterke relatie met het NCMEC komen we regelmatig bijeen om te bespreken hoe we wetshandhavers de meest nuttige informatie over deze kwaadwillenden kunnen verstrekken. 

Wanneer gebruikers ongepast gedrag waarnemen, vragen we hen dit onmiddellijk te melden via een van onze standaardmeldingskanalen. We hebben meerdere keren geconstateerd dat burgerwachten hun meldingen aan Roblox achterhielden totdat ze in het echt bijeenkomsten hadden gecoördineerd en hun eigen posts op sociale media hadden geplaatst. Door te wachten met het melden aan Roblox of de relevante autoriteiten, kunnen vermeende kwaadwillenden mogelijk langer op het platform blijven, waardoor de community blootgesteld blijft aan extra risico op schade. 

Los daarvan erkennen we de frustratie van de community over hoe we omgaan met meldingen van overtredend gedrag dat buiten Roblox plaatsvindt. Deze komen vaak bij ons binnen als screenshots van andere sociale media en berichtenapps. We doen ons best om deze meldingen te onderzoeken. We kunnen er echter geen actie op ondernemen, tenzij ze onafhankelijk kunnen worden bevestigd of we soortgelijk gedrag op Roblox waarnemen. Handelen zonder verificatie zou een aanzienlijke kwetsbaarheid voor misbruik creëren, aangezien kwaadwillenden eenvoudigweg belastend bewijs zouden kunnen vervalsen om andere gebruikers aan te vallen.

In plaats van acties te ondernemen die in strijd zijn met ons beleid en mogelijk extra risico's met zich meebrengen, moedigen we gebruikers aan om problemen via de officiële kanalen te melden, zodat we deze snel en effectief kunnen onderzoeken. We hebben onze meldingstools zo ontworpen dat ze details en metadata vastleggen die een screenshot niet kan vastleggen, waaronder object-ID's, avatar-ID's en context. Deze aanvullende informatie helpt ons enorm bij het onderzoeken van gemelde incidenten.  

We bieden gebruikers meerdere mogelijkheden om verdacht gedrag te melden. Als er zich een incident voordoet binnen een game of ervaring, kunnen gebruikers ons dit laten weten via de meldingstool in de game. Om toegang te krijgen tot deze tool, klik je linksboven op het Roblox-logo en vervolgens op het vlagpictogram/tabblad 'Melding'. 

Profielen kunnen ook buiten een ervaring worden gemeld. Om een gebruiker te melden, ga je naar zijn of haar profielpagina en klik je op de drie puntjes in de rechterbovenhoek van de profielgegevens (op desktop) of op Misbruik melden (op mobiele browser). Selecteer vervolgens Gebruiker melden in het menu. Geef zoveel mogelijk specifieke informatie over waarom je de gebruiker rapporteert, zodat we dit beter kunnen beoordelen. Om een ongepast chatbericht te rapporteren, selecteer je het tandwielpictogram in de rechterbovenhoek van het chatvenster om de chatdetails te openen. Klik op de drie puntjes en vervolgens op 'Rapporteren'.

Roblox heeft een Trusted Flagger-programma, waarbij nauwe en vertrouwde partners ernstige criminele activiteiten, zoals terrorisme, gewelddadig extremisme of uitbuiting van kinderen, aan ons kunnen rapporteren voor prioritaire beoordeling. Trusted Flaggers zijn doorgaans gerenommeerde externe organisaties (bijv. maatschappelijke organisaties of niet-gouvernementele organisaties) die in het openbaar bekend staan als materiedeskundigen voor het onderwerp waarover zij melding maken. Wij hebben dergelijke Trusted Flaggers toegezegd dat hun meldingen onmiddellijk zullen worden beoordeeld en, indien nodig, binnen korte tijd zullen worden opgevolgd. Wij zijn altijd op zoek naar uitbreiding van dit programma en staan open voor contact van geïnteresseerde entiteiten.

We weten dat onze gebruikers- en makersgemeenschappen net zo gepassioneerd zijn als wij om Roblox veilig te houden. We waarderen de meldingen, feedback en discussies. We zetten ons in om te verbeteren en te leren van deze ervaring, en we waarderen de inspanningen van de gemeenschap om Roblox voor iedereen veiliger te maken.

¹ Per het kwartaal dat eindigde op 30 juni 2025.