Bagaimana Roblox Bekerja Sama dengan Penegak Hukum

• Setiap hari, lebih dari 100 juta pengguna dari segala usia menikmati pengalaman yang aman dan positif di Roblox.
• Kami terus berinovasi dalam sistem keamanan kami yang komprehensif, yang menggabungkan moderasi AI mutakhir dengan keahlian ribuan profesional terlatih.
• Ketika sistem ini mendeteksi tanda-tanda awal kemungkinan aktivitas ilegal, ancaman kekerasan, atau bahaya nyata lainnya, kami menyelidikinya dan, jika diperlukan, mengambil tindakan penegakan hukum yang sesuai, termasuk melaporkannya kepada pihak berwenang.  

Keamanan merupakan landasan dari segala hal yang kami lakukan di Roblox—platform kami dibangun untuk semua usia, termasuk pengguna di bawah 13 tahun, sejak awal. Pendekatan kami mencakup infrastruktur keamanan berskala besar dan pengawasan dari ribuan orang di seluruh dunia yang berdedikasi pada keamanan. Roblox juga merupakan tempat yang secara fundamental berbeda dari bagian lain Internet. Kami mewajibkan verifikasi usia untuk obrolan tanpa filter antar pengguna. Semua obrolan lainnya, termasuk diskusi publik, difilter secara ketat dan dirancang untuk mencegah pembagian informasi pribadi—termasuk nomor telepon, nama pengguna, dan tautan ke platform online lain.

Sebagai bagian dari sistem moderasi proaktif kami, kami memanfaatkan protokol deteksi canggih dan respons cepat untuk melaporkan aktivitas ilegal yang mungkin terjadi, ancaman kekerasan, atau bahaya nyata lainnya kepada penegak hukum. Kami berfokus pada inovasi tanpa henti, dan upaya kami dalam hal keamanan tidak pernah berhenti. Kemitraan dengan penegak hukum ini—yang dengan bangga kami soroti seiring partisipasi Roblox dalam Konferensi Kejahatan Terhadap Anak (CACC) ke-37 minggu ini—merupakan bagian dari upaya menyeluruh dan multifaset kami untuk membantu menjaga keamanan pengguna.

Tindakan keamanan kami yang ketat mungkin membuat para pelaku kejahatan frustrasi dan mendorong mereka untuk beroperasi di platform lain. Ini adalah hal yang positif—kami tidak ingin mereka ada di Roblox—tetapi kami juga tahu bahwa banyak pengguna kami aktif di berbagai platform dan kami ingin berkontribusi pada keselamatan mereka bahkan ketika mereka tidak berada di Roblox. Itulah salah satu dari banyak alasan kami berkolaborasi dengan penegak hukum di seluruh dunia, sambil tetap menjaga privasi pengguna kami. Dengan membantu mengidentifikasi dan menggagalkan pelaku kejahatan, kami berupaya membantu penegak hukum menghubungkan titik-titik di berbagai platform untuk menyelidiki lebih lanjut dan melakukan intervensi jika diperlukan.  

Berpartisipasi dalam konferensi penegakan hukum seperti CACC hanyalah salah satu cara kami bermitra dengan penegak hukum untuk membantu menjaga keamanan pengguna Roblox. Melalui upaya penjangkauan global yang gencar, kami telah membangun hubungan yang erat dan langgeng dengan penegak hukum di tingkat internasional, federal, negara bagian, dan lokal. Kami berbagi praktik terbaik dan pembelajaran, memberikan panduan yang jelas tentang cara penegak hukum dapat menghubungi kami melalui portal penegak hukum kami, merinci jenis catatan yang mungkin tersedia sebagai tanggapan atas permintaan hukum yang sah, dan secara aktif mencari masukan dari penegak hukum mengenai masalah keamanan. Kami juga memiliki tim internal khusus yang bekerja sepanjang waktu untuk mendukung permintaan penegak hukum, menyelidiki ancaman keamanan platform, dan meneruskan ancaman serius ke penegak hukum yang sesuai.

Kami mempertahankan saluran komunikasi langsung dengan organisasi, seperti FBI dan National Center for Missing and Exploited Children (NCMEC), untuk eskalasi segera ancaman serius yang kami identifikasi. Kami secara proaktif melaporkan konten yang berpotensi berbahaya ke NCMEC, yang merupakan entitas pelaporan yang ditunjuk bagi masyarakat dan penyedia layanan elektronik terkait dugaan eksploitasi seksual anak. Pada tahun 2024, kami mengirimkan 24.522 laporan ke NCMEC (0,12% dari total 20,3 juta laporan yang dikirimkan ke NCMEC).

Selain itu, bekerja sama dengan NCMEC dan penegak hukum, kami telah mengambil langkah-langkah spesifik untuk meningkatkan kelayakan tindakan atas laporan NCMEC kami, seperti menyertakan informasi kunci mengenai faktor-faktor yang memperparah atau kekhawatiran akan ancaman yang mendesak. Tindakan ini memudahkan NCMEC dan penegak hukum untuk lebih cepat melakukan triase dan menyelidiki laporan kami. Selain itu, kami secara proaktif meneruskan potensi ancaman keamanan (seperti terorisme, ekstremisme kekerasan, atau ancaman kekerasan yang ditujukan secara pribadi) melalui integrasi dengan FBI, yang dirancang untuk menangani laporan dari platform seperti milik kami. Dalam semua kasus tersebut, tim internal khusus kami siap siaga 24/7 untuk lebih lanjut membantu penegak hukum dalam penyelidikan yang dihasilkan.

Tantangan ini tidak hanya dihadapi oleh Roblox. Kami terus berkomunikasi dengan platform lain, organisasi nonpemerintah, dan konsorsium akademis/industri yang berupaya mencari solusi untuk menggagalkan pelaku kejahatan. Sejak 2018, kami telah menjadi anggota aktif Tech Coalition, sebuah komunitas perusahaan teknologi yang bekerja sama untuk melindungi anak-anak di dunia maya. Kami bergabung dengan Lantern sebagai anggota pendiri pada 2023. Program berbagi sinyal lintas platform pertama di dunia ini memungkinkan perusahaan peserta untuk berbagi informasi dan mengambil tindakan terhadap pelaku jahat yang berpindah dari satu platform ke platform lain. Kami juga bergabung dengan inisiatif Robust Open Online Safety Tools (ROOST) sebagai mitra pendiri untuk berbagi teknologi keamanan baru yang dapat membantu memajukan industri secara keseluruhan, dimulai dengan klasifikasi keamanan suara kami.

Selain organisasi-organisasi ini, kami berkolaborasi dengan pembuat kebijakan dalam inisiatif keselamatan anak yang penting, undang-undang, dan upaya lainnya. Kami adalah perusahaan pertama dan salah satu dari sedikit perusahaan yang mendukung Undang-Undang Kode Desain Sesuai Usia California untuk melindungi informasi pengguna muda. Dan kami menandatangani surat dukungan untuk RUU Senat California 933 (SB 933), yang memperbarui undang-undang negara bagian untuk secara tegas melarang materi pelecehan seksual anak yang dihasilkan oleh AI.

Para profesional penegak hukum adalah pihak yang paling tepat untuk menyelidiki potensi kejahatan. Oleh karena itu, kami ingin memastikan bahwa setiap pelanggaran di Roblox dilaporkan dan ditindaklanjuti melalui saluran yang tepat. 

Sayangnya, ada kasus di mana kelompok atau individu yang bertindak sebagai penegak hukum swasta melanggar kebijakan kami untuk menjebak pengguna atau mengatur platform secara mandiri. Meskipun kelompok-kelompok ini mungkin tampak memiliki kepentingan publik di hati mereka, mereka sebenarnya bertindak dengan cara yang dapat membahayakan orang lain, baik di dalam maupun di luar platform kami. Misalnya, upaya mereka dapat membuat pelaku kejahatan tetap berada di platform lebih lama hanya untuk menciptakan konten media sosial yang lebih sensasional.

Tindakan yang diambil oleh kelompok-kelompok main hakim sendiri meningkatkan risiko lebih banyak pengguna terpapar oleh pelaku jahat dan dapat menunda upaya penegakan hukum baik oleh Roblox maupun penegak hukum. Setiap akun, termasuk milik kelompok atau individu main hakim sendiri, yang kedapatan melanggar kebijakan kami akan menghadapi konsekuensi hingga dan termasuk penghapusan dan pemblokiran, jika diperlukan. Kami menegakkan kebijakan kami sesuai dengan Standar Komunitas dan Ketentuan Penggunaan kami secara keseluruhan.

Alih-alih mengambil tindakan sendiri, kami mendorong komunitas untuk melaporkan perilaku yang tidak pantas secara langsung ke Roblox atau penegak hukum menggunakan metode pelaporan yang mudah seperti yang dijelaskan di bawah ini.

Kami mendorong setiap pengguna yang meyakini telah terjadi tindak kejahatan untuk menghubungi penegak hukum setempat secara langsung. Sebagaimana dijelaskan di atas, kami secara rutin bekerja sama erat dengan penegak hukum, dan ketika penegak hukum menghubungi kami, kami berkoordinasi dengan mereka semaksimal mungkin. Pengguna juga dapat melaporkan potensi eksploitasi seksual anak secara langsung ke CyberTipline NCMEC. 

Selain kerja sama kami dengan penegak hukum, kami telah meluncurkan program Trusted Flagger, di mana mitra yang dekat dan tepercaya dapat melaporkan potensi aktivitas kriminal serius (seperti terorisme, ekstremisme kekerasan, atau eksploitasi anak) kepada kami. Kami segera meninjau laporan-laporan ini dan, jika diperlukan, mengambil tindakan yang sesuai. Kami selalu berupaya memperluas program ini dan menyambut inisiatif dari entitas yang tertarik.

Di platform, kami menyediakan alat pelaporan penyalahgunaan yang kuat yang memungkinkan lebih dari 100 juta pengguna aktif harian kami untuk melaporkan perilaku tidak pantas di Roblox guna ditinjau dan diselidiki. Kami terus meningkatkan antarmuka ini agar pengguna lebih mudah mengumpulkan semua informasi yang diperlukan, sehingga tim keamanan kami dapat menilai potensi pelanggaran dengan lebih cepat dan akurat.

Kami menyadari bahwa pekerjaan penting ini tidak pernah selesai. Kami akan terus berupaya di semua bidang untuk meningkatkan keamanan daring, termasuk bekerja sama dengan pembuat kebijakan dalam menyusun undang-undang yang melindungi anak-anak dan remaja, berkolaborasi dengan otoritas publik dan lintas industri untuk berbagi masukan, mendukung penyelidikan penegak hukum, serta meningkatkan sistem keamanan kami sendiri guna membantu menjaga keamanan pengguna di Roblox.