Memikirkan Ulang Obrolan untuk Kesenangan, Permainan, dan Kesopanan

• Percakapan yang alami dan lancar sangat penting untuk game yang dimainkan bersama oleh tim atau komunitas. 
• Rangkaian karakter ##### yang muncul akibat pemblokiran bahasa yang tidak pantas dapat mengganggu obrolan, menyulitkan pemahaman, dan mengganggu jalannya permainan.
• Untuk membantu menjaga percakapan tetap lancar dan saling menghormati, kami meningkatkan filter obrolan kami dan mengganti kata-kata kasar dengan kata-kata yang sesuai dengan pedoman kami.
• Ini adalah langkah pertama dalam perjalanan jangka panjang kami untuk mengurangi ##### demi pengalaman obrolan yang lebih alami. Kami akan terus belajar, mengulangi, dan mengembangkan alat kami untuk membantu mendukung obrolan yang aman dan sopan, termasuk kontrol tambahan bagi pengguna.

Setiap hari, jutaan orang terhubung dan bermain di Roblox, di mana komunikasi real-time sangat penting untuk ekspresi pengguna dan koordinasi permainan. Penggunaan filter AI untuk memblokir teks bermasalah (yang terlihat oleh pengguna sebagai #####) selalu menjadi inti dari pendekatan kami terhadap keamanan dan peningkatan kesopanan. Tanda pagar ini dihasilkan secara real-time dan membantu pengguna memahami kapan sesuatu yang mereka ketik tidak diperbolehkan. Tentu saja, ketika pengguna berulang kali melanggar aturan, mereka akan menghadapi konsekuensi di luar sekadar teks mereka menjadi ###.

Pada Mei 2025, kami memperkenalkan peringatan proaktif real-time untuk membantu pengguna memahami kebijakan kami. Fitur ini kini aktif untuk obrolan teks dan suara. Notifikasi ini memberi tahu pengguna saat mereka melanggar aturan, mendorong mereka untuk mempertimbangkan kembali bahasa yang digunakan di masa depan, dan membantu mereka menjadi warga digital yang lebih baik. Dalam eksperimen tahun lalu, kami melihat bahwa pemberian notifikasi obrolan teks dalam aplikasi dan waktu tunggu menghasilkan penurunan 5% pada pesan obrolan yang disaring dan penurunan 6% pada konsekuensi dari laporan penyalahgunaan.

Hari ini, kami menambahkan fitur tambahan untuk menjaga agar obrolan teks dalam pengalaman tetap sopan: Kami memanfaatkan AI untuk secara otomatis merumuskan ulang pesan, dimulai dengan kata-kata kasar. Seiring sistem ini berkembang, sistem ini menciptakan efek berantai untuk kesopanan, di mana umpan balik real-time membantu pengguna belajar dan mengadopsi Standar Komunitas kami. Semua pengguna, bukan hanya pengirim pesan, dapat melihat bahasa apa saja yang diperbolehkan di Roblox (dan pengirim melihat apa yang tidak diperbolehkan). Hal ini memberikan lebih banyak umpan balik kepada pengguna yang mungkin belum mengetahui aturan dan memperkuat fondasi penyaringan serta peringatan real-time kami untuk membantu mendukung percakapan yang aman, sopan, dan menyenangkan di Roblox. 

Penyusunan Ulang Obrolan Real-Time: Beralih dari Tanda Henti ke Panduan

Bagi banyak pengguna, deretan ##### bisa menjadi jalan buntu dalam percakapan, tanpa panduan tentang cara menyesuaikan bahasa mereka agar sesuai dengan Standar Komunitas kami. Hal ini seringkali menimbulkan kebingungan dan mempersulit kolaborasi antar tim dalam sebuah game. Bayangkan seseorang mencoba memberi tahu temannya bahwa ada monster di belakangnya dan mengetik sesuatu seperti “Hati-hati! Ada monster sialan di belakangmu ahhh!” untuk memperingatkannya. Teman tersebut hanya melihat “###########.” Itu tidak terlalu membantu. 

Mulai hari ini, teks yang disensor akan diterjemahkan ke dalam bahasa yang lebih sopan namun tetap terasa alami bagi pengguna Roblox. Pada peluncuran awal, pengubahan kalimat secara real-time ini difokuskan pada kata-kata kasar. Misalnya, “Cepat tf!” mungkin menjadi “Cepat!”, yang jauh lebih mendekati maksud asli daripada #####. Untuk jelas, ketika kami mengubah pesan yang melanggar kebijakan kata-kata kasar kami—itu tetap merupakan pelanggaran dan aturan yang sama tetap berlaku. Pengguna yang terus mencoba mengumpat di obrolan akan tetap menghadapi konsekuensi yang sama karena melanggar kebijakan kami berulang kali. 

Bayangkan sistem ini sebagai setir, bukan tanda berhenti: Jika sebuah pesan melanggar kebijakan kami, semua orang di obrolan akan diberi tahu bahwa teks tersebut telah diubah untuk menjaga suasana tetap sopan. Dengan mencocokkan kata-kata terlarang dengan frasa yang sebenarnya digunakan pengguna dalam obrolan sehari-hari, kami membantu menjaga obrolan tetap sopan tanpa kehilangan nuansa atau alur yang autentik. Dengan mengganti tanda-tanda berhenti ini dengan panduan real-time, kami dapat mengurangi gesekan tersebut—dan tetap memperkuat aturan kami terhadap kata-kata kasar.

Kami masih dalam tahap awal dalam hal merumuskan ulang dan memberikan konteks lebih lanjut kepada pengguna saat teks diblokir. Seiring waktu, seperti halnya alat terjemahan AI lainnya, sistem ini akan menjadi semakin akurat dan lebih mendetail dalam mempertahankan nada atau konteks asli pengguna. Prioritas kami tetap membangun cara berkomunikasi yang aman dan sopan di Roblox yang terus mengutamakan pemberian informasi, edukasi, dan panduan kepada pengguna saat mereka mempelajari standar kami. 

Meskipun pengubahan kalimat mengurangi gangguan dalam obrolan, sistem keamanan berlapis kami tetap berlaku untuk perilaku yang lebih serius. Fitur pengubahan kalimat hanya tersedia untuk obrolan dalam pengalaman, yang hanya dapat diakses oleh pengguna yang telah diverifikasi usianya dalam kelompok usia serupa dan Koneksi Terpercaya mereka. Pengubahan kalimat didukung dalam semua bahasa yang saat ini tersedia melalui alat terjemahan otomatis kami. Tujuan kami adalah mencapai tingkat akurasi yang memungkinkan kami mengurangi penggunaan ### hingga dapat menghapusnya sepenuhnya, sehingga komunikasi digital menjadi sealamiah dan sejelas percakapan tatap muka.

Saat mengembangkan fitur ini, kami berkonsultasi dengan anggota Dewan Remaja kami untuk membangun sistem yang mencerminkan cara remaja sebenarnya bercakap-cakap. Anggota Dewan Sofia mengatakan kepada kami, "Beralih ke pengubahan kalimat secara real-time menjaga alur percakapan sambil tetap membantu menjaga keamanan semua orang. Hal ini secara halus mengarahkan interaksi kembali ke jalur yang benar dan membantu orang merasa diterima." 

Anggota Dewan Remaja, Jordyn, setuju. "Perubahan ini mengajarkan pemain untuk mempertimbangkan cara mereka berkomunikasi dan memperkuat interaksi dengan membangun hubungan yang ramah," kata Jordyn. "Dengan beralih ke pengulangan kalimat, hal ini menciptakan titik tengah antara permintaan pemain dan standar keamanan yang diperlukan."  

Peningkatan Filter Teks: Berkembang dari Pola ke Konteks

Fitur keamanan kami terus berkembang untuk tetap sejalan dengan cara pengguna berinteraksi di Roblox. Filter teks kami dilatih untuk mendeteksi dan memblokir segala hal yang melanggar Standar Komunitas kami. Hal ini harus dilakukan secara global dan real-time, saat pengguna sedang berinteraksi.

Awalnya, sistem ini memiliki dua komponen: 1) Sistem berbasis aturan yang dirancang untuk mendeteksi dan memblokir konten yang melanggar aturan kami dalam hitungan menit saat peristiwa dunia nyata terjadi. 2) Sekelompok model khusus yang dilatih dari model yang lebih besar, berdasarkan kumpulan sampel simulasi dan nyata yang terus diperbarui untuk mencakup jenis bahasa yang terus berkembang. 

Model-model khusus ini sangat baik dalam tugas-tugas spesifik, seperti menemukan daftar kata yang tidak kami izinkan, tetapi mereka tidak dapat berlogika dengan baik, sehingga tidak efektif dalam mendeteksi istilah yang terus berkembang. Model-model yang sangat besar tidak berfungsi secara real-time, dan halusinasi (atau kesalahan kategorisasi) sering meningkatkan false positives. 

Dalam pembaruan ini, kami telah memperkenalkan komponen ketiga baru ke dalam sistem penyaring teks kami. Kini, ketika model khusus tidak yakin apakah suatu konten melanggar aturan atau tidak, konten tersebut dikirim ke model yang sangat besar yang lebih baik dalam berlogika dan menilai konteks yang lebih luas. Model besar ini dapat membuat keputusan yang lebih kompleks. 

Eksperimen kami menunjukkan bahwa pendekatan gabungan ini telah secara signifikan meningkatkan kinerja filter kami. Filter kini dapat mendeteksi leet-speak—yaitu penggantian huruf dengan angka atau simbol—serta upaya yang lebih canggih untuk menghindari filter kami dengan lebih baik. Tidak ada sistem yang sempurna, namun kami antusias karena inovasi terbaru ini memungkinkan kami mengurangi prevalensi false negative terkait pembagian atau permintaan informasi pribadi, seperti akun media sosial atau nomor telepon, hingga 20 kali lipat.

Ini adalah pendekatan baru yang berani dan kami tidak selalu akan merumuskan hal-hal dengan sempurna. Namun, kami akan terus belajar dan bereksperimen seiring berjalannya waktu, serta terus mengurangi jumlah ##### yang dilihat pengguna di obrolan mereka, dengan tujuan jangka panjang untuk menghapusnya sepenuhnya. Tujuan akhir kami adalah memberdayakan pengguna untuk berkolaborasi dan terhubung dengan cara yang menyenangkan dan saling menghormati.