Bagaimana Menjadi Mitra Pendiri Inisiatif Sumber Terbuka Baru Menjadi Kunci Pendekatan Kami terhadap Keamanan Daring

• AI telah menjadi landasan dalam cara kami menangani keamanan di Roblox, dan kami menerapkan model kami pada komunikasi teks dan suara, gambar, serta model dan mesh 3D.
• Mempromosikan keamanan pengguna, terutama bagi pengguna termuda kami, selalu menjadi prioritas utama kami, dan itulah mengapa kami terus berinvestasi dan meningkatkan sistem keamanan kami. 
• Berkontribusi pada komunitas sumber terbuka sangat penting bagi kami. Dan kami memperluas posisi kepemimpinan kami dalam teknologi keamanan dengan menjadi mitra pendiri ROOST, sebuah organisasi nirlaba baru yang didedikasikan untuk menangani bidang-bidang penting dalam keamanan digital dengan mempromosikan alat keamanan sumber terbuka.
• Kami juga merilis versi baru model klasifikasi keamanan suara kami sebagai open-source (model dengan 94 juta parameter yang memproses hingga 400.000 jam percakapan aktif setiap hari di platform kami), dan kami berencana merilis model AI keamanan open-source tambahan di masa depan.

Mempromosikan keamanan dan kesopanan telah menjadi landasan Roblox sejak didirikan hampir dua dekade lalu. Mendesain sistem untuk memastikan keamanan bagi semua orang merupakan upaya besar, terutama pada skala global kami dan dengan berbagai jenis konten yang kami dukung. Itulah mengapa kami berinvestasi besar-besaran dalam infrastruktur, AI, dan sumber daya manusia. Dengan ratusan model yang beroperasi, hampir setiap interaksi di Roblox didukung oleh AI dalam satu atau lain cara.

Pada kuartal keempat 2024, pengguna kami mengunggah lebih dari 300 miliar potongan konten yang mencakup video, audio, teks, obrolan suara, avatar, dan pengalaman 3D. Namun, hanya 0,01% dari konten tersebut yang terdeteksi melanggar kebijakan kami, dan sebagian besar tidak dilihat oleh pengguna karena telah dimoderasi secara proaktif. Kami juga telah mengembangkan AI berkemampuan tinggi yang mendasar untuk menjaga keamanan seluruh jenis konten dan mode komunikasi kami. Model-model ini memproses lebih dari 4 miliar pesan teks per hari dengan latensi hanya beberapa milidetik, serta jutaan jam percakapan suara dan item konten. Kami berkomitmen untuk mendeteksi konten berbahaya dan mengambil keputusan moderasi secara massal.

Keamanan adalah hal yang melampaui Roblox. Meskipun kami dapat membantu melindungi pengguna saat mereka berada di platform kami, kami memiliki kekuatan terbatas untuk melakukannya saat mereka tidak berada di Roblox. Memang, perusahaan internet di seluruh dunia menghadapi tantangan ini saat pengguna berpindah dari satu platform ke platform lain. Oleh karena itu, selama bertahun-tahun, kami telah mengambil peran kepemimpinan dalam mempromosikan praktik keamanan dan kesopanan online dengan bergabung dalam organisasi seperti Family Online Safety Institute dan Tech Coalition.

Kini, kami bangga memperluas peran kepemimpinan kami dalam keamanan online dengan menjadi mitra pendiri—bersama Google, OpenAI, Discord, dan lainnya—dari ROOST (Robust Open Online Safety Tools). Organisasi nirlaba baru ini berdedikasi untuk menangani area penting dalam keamanan digital—terutama keamanan anak online—dengan membangun alat keamanan yang skalabel, interoperabel, dan tangguh yang sesuai untuk era kecerdasan buatan (AI).

ROOST akan mengembangkan, memelihara, dan mendistribusikan sumber daya keamanan open-source gratis yang dapat digunakan oleh organisasi publik dan swasta dari segala ukuran—banyak di antaranya tidak memiliki akses ke teknologi keamanan dasar—untuk memperkuat sistem mereka dalam menjaga keamanan pengguna. Hal ini akan memungkinkan mereka untuk lebih fokus pada pengembangan bisnis mereka. 

Kami antusias untuk membantu memperkuat keamanan di seluruh internet, dan untuk itu, kami juga akan menjadi salah satu ketua komite penasihat teknologi ROOST. Hal ini akan memberi kami kesempatan untuk berbagi apa yang telah kami pelajari, serta memberikan masukan dan dukungan terhadap pekerjaan dan strategi teknis organisasi tersebut.

Menjadi mitra pendiri ROOST memungkinkan kami untuk memanfaatkan keahlian pemodelan pembelajaran mesin dari komunitas ROOST guna memajukan teknik keamanan yang kami gunakan dan bagikan. Hal ini sangat menarik karena ROOST sedang mengerjakan tiga bidang inti keamanan daring yang sangat penting bagi Roblox dan platform daring lainnya. Hal ini meliputi:

• Meningkatkan keamanan anak, termasuk mengembangkan pengklasifikasi materi pelecehan seksual anak (CSAM) yang lebih kuat
• Membangun infrastruktur keamanan yang lebih baik, seperti konsol peninjauan, mesin heuristik, serta mengumpulkan dan menyusun lebih banyak contoh pelatihan, pengambilan sampel secara statistik, pelabelan, dan melatih manusia mengenai kasus penggunaan ini 
• Menciptakan pengaman konten yang didukung model bahasa besar (LLM) yang memanfaatkan AI untuk merevisi dan melatih moderator dalam menegakkan kebijakan

“Memiliki pemimpin global dalam keamanan daring seperti Roblox yang bergabung dengan ROOST sebagai mitra pendiri merupakan peluang besar bagi kami,” kata Eli Sugarman, Wakil Ketua Dewan Direksi ROOST. “Dengan komitmennya yang terbukti terhadap keamanan sumber terbuka, Roblox berada dalam posisi yang sangat baik untuk berbagi pendekatan inovatifnya guna membantu melindungi seluruh komunitas daring.”

Ini adalah momen penting bagi seluruh komunitas online, dan pekerjaan kami dalam mengembangkan alat sumber terbuka merupakan elemen utama dari hal tersebut. Kami percaya bahwa AI adalah teknologi yang harus dibangun di atas transparansi dan keterbukaan, dan kami berkomitmen untuk menjadi mitra yang kuat dalam komunitas AI sumber terbuka.   

Berkontribusi dalam Teknologi untuk Komunitas Sumber Terbuka

Menjadi mitra pendiri ROOST sejalan dengan pendekatan kami dalam berkontribusi pada teknologi untuk komunitas sumber terbuka. Ini adalah perjalanan yang kami mulai tahun lalu ketika kami merilis model klasifikasi keamanan suara kami sebagai sumber terbuka, yang dapat mendeteksi pelanggaran kebijakan dengan lebih akurat daripada moderator manusia pada skala jutaan menit aktivitas suara per hari. Sejak itu, model tersebut telah diunduh hampir 22.000 kali.

Kami kini memiliki versi terbaru dari model tersebut yang sudah beroperasi, yang mendukung tujuh bahasa baru—Spanyol, Jerman, Prancis, Portugis, Italia, Korea, dan Jepang—serta menerapkan teknik baru yang membuat model ini lebih efektif. Teknik-teknik tersebut meliputi arsitektur pelatihan kurikulum untuk penyempurnaan label manusia, perluasan kategori pelanggaran, serta penambahan lapisan ekstraksi fitur yang lebih efisien dan pengurangan waktu. Kami berencana untuk merilis versi model baru ini sebagai open-source pada akhir kuartal pertama 2025. Ke depan, kami juga berencana merilis model klasifikasi untuk modus lain sebagai open-source pada akhir tahun ini.

Membuka akses ke alat-alat kami merupakan bagian dari identitas kami, baik dalam pekerjaan keamanan maupun dalam hal kreasi. Tahun lalu, misalnya, kami memperkenalkan Model Dasar 3D kami, yang akan membantu para kreator mengintegrasikan berbagai jenis alat pembuat otomatis ke dalam pengalaman mereka.

Kami sangat antusias menjadi mitra pendiri komunitas ROOST, dan kami berencana untuk berkolaborasi dengan para pemimpin lain di bidang ini serta berkontribusi semaksimal mungkin untuk menjadikan internet tempat yang lebih aman.