การคิดใหม่เกี่ยวกับการแชทเพื่อความสนุก, การเล่นเกม, และความสุภาพ

• การสนทนาที่เป็นธรรมชาติและลื่นไหลเป็นสิ่งสำคัญสำหรับเกมที่ทีมหรือชุมชนเล่นร่วมกัน 
• ข้อความที่มีเครื่องหมาย ##### แทนคำที่ไม่เหมาะสมอาจรบกวนการสนทนา ทำให้อ่านเข้าใจยาก และขัดจังหวะการเล่นเกม
• เพื่อช่วยให้การสนทนาดำเนินไปอย่างราบรื่นและให้เกียรติกัน เราได้ปรับปรุงตัวกรองการแชทและปรับเปลี่ยนคำหยาบคายให้เป็นคำที่อยู่ในแนวทางของเรา
• นี่คือก้าวแรกบนเส้นทางระยะยาวของเราในการลด ##### เพื่อประสบการณ์การสนทนาที่เป็นธรรมชาติมากขึ้น เราจะยังคงเรียนรู้ ปรับปรุง และพัฒนาเครื่องมือของเราอย่างต่อเนื่องเพื่อสนับสนุนการสนทนาที่ปลอดภัยและมีมารยาท รวมถึงการเพิ่มการควบคุมเพิ่มเติมสำหรับผู้ใช้

ทุกวัน มีผู้คนนับล้านเชื่อมต่อและเล่นบน Roblox ซึ่งการสื่อสารแบบเรียลไทม์มีความสำคัญต่อการแสดงออกของผู้ใช้และการประสานงานในเกม การใช้ตัวกรอง AI เพื่อบล็อกข้อความที่มีปัญหา (ซึ่งผู้ใช้จะเห็นเป็น #####) เป็นหัวใจสำคัญของแนวทางของเราในการรักษาความปลอดภัยและส่งเสริมความสุภาพมาโดยตลอด เครื่องหมายแฮชเหล่านี้ถูกสร้างขึ้นแบบเรียลไทม์และช่วยให้ผู้ใช้เข้าใจเมื่อสิ่งที่พวกเขาพิมพ์ไม่ได้รับอนุญาต แน่นอนว่า เมื่อผู้ใช้ทำผิดกฎซ้ำ ๆ พวกเขาจะต้องเผชิญกับผลที่ตามมาซึ่งเกินกว่าการถูกทำให้ข้อความเป็น ###

ในเดือนพฤษภาคมปี 2025 เราได้แนะนำการแจ้งเตือนแบบเรียลไทม์ที่เป็นการกระทำล่วงหน้าเพื่อช่วยให้ผู้ใช้เข้าใจนโยบายของเรา การแจ้งเตือนเหล่านี้ได้ถูกเปิดใช้งานแล้วทั้งสำหรับการแชทแบบข้อความและเสียง การแจ้งเตือนเหล่านี้จะแจ้งให้ผู้ใช้ทราบเมื่อพวกเขาทำผิดกฎ กระตุ้นให้พวกเขาคิดใหม่เกี่ยวกับภาษาที่ใช้ในครั้งต่อไป และช่วยให้พวกเขากลายเป็นพลเมืองดิจิทัลที่ดีขึ้น ในการทดลองเมื่อปีที่แล้ว เราพบว่า การแจ้งเตือนข้อความแชทจากข้อความที่ไม่เคยมีประสบการณ์และการตั้งเวลาหมดเวลา ส่งผลให้ข้อความแชทที่ถูกกรองลดลง 5% และผลลัพธ์จากการรายงานการละเมิดลดลง 6%

วันนี้ เราได้เพิ่มฟีเจอร์ใหม่เพื่อช่วยให้การสนทนาในประสบการณ์เป็นไปอย่างสุภาพ: เราใช้ AI เพื่อปรับข้อความโดยอัตโนมัติ เริ่มจากคำหยาบคาย เมื่อระบบเหล่านี้ขยายตัว พวกมันจะสร้างวงจรแห่งความสุภาพ ซึ่งการตอบกลับแบบเรียลไทม์ช่วยให้ผู้ใช้เรียนรู้และปฏิบัติตามมาตรฐานชุมชนของเรา ผู้ใช้ทุกคน ไม่ใช่แค่ผู้ส่งข้อความเท่านั้น จะเห็นภาษาที่อนุญาตบน Roblox (และผู้ส่งจะเห็นภาษาที่ไม่ได้รับอนุญาต) สิ่งนี้ให้ข้อมูลย้อนกลับเพิ่มเติมแก่ผู้ใช้ที่อาจไม่ทราบกฎ และเสริมสร้างพื้นฐานของเราในการกรองและแจ้งเตือนแบบเรียลไทม์ เพื่อช่วยสนับสนุนการสนทนาที่ปลอดภัย สุภาพ และสนุกสนานบน Roblox 

การปรับถ้อยคำในการแชทแบบเรียลไทม์: จากสัญญาณหยุดสู่การให้คำแนะนำ

สำหรับผู้ใช้หลายคน การเห็นข้อความเป็น ##### ติดต่อกันอาจทำให้การสนทนาหยุดชะงัก โดยไม่มีคำแนะนำว่าควรปรับภาษาของตนอย่างไรให้สอดคล้องกับมาตรฐานชุมชนของเรา ซึ่งมักก่อให้เกิดความสับสนและทำให้ทีมภายในเกมทำงานร่วมกันได้ยากขึ้น ลองนึกภาพว่ามีคนพยายามบอกเพื่อนว่ามีสัตว์ประหลาดอยู่ข้างหลัง และพิมพ์อะไรบางอย่างเช่น "ระวัง! มีสัตว์ประหลาดอยู่บน...อ๊าก!" เพื่อเตือนเพื่อน แต่เพื่อนกลับเห็นแค่ "###########" เท่านั้น ซึ่งไม่ได้ช่วยอะไรเลย 

เริ่มตั้งแต่วันนี้ ข้อความที่ถูกกรองจะถูกแปลเป็นภาษาที่สุภาพมากขึ้น แต่ยังคงให้ความรู้สึกเป็นธรรมชาติสำหรับผู้ใช้ Roblox เมื่อเปิดตัว ฟีเจอร์การปรับถ้อยคำแบบเรียลไทม์นี้จะเน้นไปที่คำหยาบเป็นหลัก ตัวอย่างเช่น "Hurry tf up!" อาจกลายเป็น "Hurry up!" ซึ่งใกล้เคียงกับเจตนาดั้งเดิมมากกว่าการใช้ ##### เพื่อความชัดเจน เมื่อเราปรับข้อความใหม่ซึ่งละเมิดนโยบายการใช้คำหยาบของเรา ข้อความนั้นยังคงถือว่าละเมิดและกฎเดิมยังคงมีผลบังคับใช้ ผู้ใช้ที่พยายามใช้คำหยาบในแชทต่อไปจะยังคงได้รับผลตามเดิมจากการละเมิดนโยบายของเราซ้ำๆ 

คิดถึงระบบนี้เหมือนกับพวงมาลัยรถ มากกว่าป้ายหยุด: หากข้อความใดละเมิดนโยบายของเรา ทุกคนในห้องแชทจะได้รับแจ้งว่าข้อความนั้นได้ถูกปรับให้เหมาะสมแล้วเพื่อให้การสนทนาเป็นไปอย่างสุภาพ ด้วยการจับคู่คำที่ถูกจำกัดกับวลีที่ผู้ใช้ใช้จริงในการสนทนาประจำวัน เราช่วยให้การสนทนาเป็นไปอย่างสุภาพโดยไม่สูญเสียความรู้สึกหรือการไหลของบทสนทนาที่แท้จริง ด้วยการแทนที่ป้ายหยุดด้วยคำแนะนำแบบเรียลไทม์ เราสามารถลดความขัดแย้งบางส่วนได้—และยังคงเสริมสร้างกฎของเราเกี่ยวกับการใช้คำหยาบคาย

เรายังอยู่ในช่วงเริ่มต้นของการปรับคำใหม่และให้บริบทเพิ่มเติมแก่ผู้ใช้เมื่อข้อความถูกบล็อก เมื่อเวลาผ่านไป เช่นเดียวกับเครื่องมือแปลภาษาด้วย AI อื่น ๆ ระบบจะมีความแม่นยำและละเอียดอ่อนมากขึ้นในการรักษาโทนหรือบริบทเดิมของผู้ใช้ ความสำคัญอันดับแรกของเราคือการสร้างวิธีการสื่อสารที่ปลอดภัยและมีมารยาทบน Roblox ที่ยังคงให้ความสำคัญกับการให้ข้อมูล การศึกษา และการแนะนำผู้ใช้ของเราในขณะที่พวกเขาเรียนรู้มาตรฐานของเรา 

แม้ว่าการปรับถ้อยคำใหม่จะช่วยลดการรบกวนในแชทได้บ้าง แต่ระบบความปลอดภัยหลายชั้นของเรายังคงมีผลบังคับใช้สำหรับพฤติกรรมที่รุนแรงกว่า การปรับถ้อยคำใหม่มีให้เฉพาะในแชทภายในประสบการณ์เท่านั้น ซึ่งสามารถใช้งานได้เฉพาะระหว่างผู้ใช้ที่ผ่านการตรวจสอบอายุในกลุ่มอายุที่ใกล้เคียงกันและบุคคลที่อยู่ในรายชื่อบุคคลที่ไว้ใจได้ การปรับถ้อยคำใหม่รองรับในทุกภาษาที่มีให้บริการผ่านเครื่องมือแปลภาษาอัตโนมัติของเรา เป้าหมายของเราคือการบรรลุระดับความแม่นยำที่ช่วยให้เราสามารถลด ### จนกว่าเราจะสามารถยกเลิกมันได้โดยสิ้นเชิง ทำให้การสื่อสารดิจิทัลเป็นธรรมชาติและชัดเจนเหมือนการสนทนาแบบตัวต่อตัว

ในระหว่างที่เราพัฒนาคุณสมบัตินี้ เราได้หารือกับสมาชิกสภาวัยรุ่นของเราเพื่อสร้างระบบที่สะท้อนถึงวิธีการแชทของวัยรุ่นอย่างแท้จริง สมาชิกสภาโซเฟียได้บอกกับเราว่า "การปรับเปลี่ยนคำพูดแบบเรียลไทม์ช่วยรักษาการไหลของบทสนทนาไว้ในขณะที่ยังคงช่วยให้ทุกคนปลอดภัย มันช่วยนำการโต้ตอบกลับมาในแนวทางที่ถูกต้องอย่างนุ่มนวลและช่วยให้ผู้คนรู้สึกได้รับการต้อนรับ" 

สมาชิกสภาวัยรุ่น Jordyn เห็นด้วย "การเปลี่ยนแปลงนี้สอนให้ผู้เล่นพิจารณาวิธีการสื่อสารและเสริมสร้างความสัมพันธ์ที่ดีโดยการส่งเสริมการเชื่อมต่อที่เป็นมิตร" Jordyn กล่าว "โดยการเปลี่ยนมาใช้การพูดใหม่ มันสร้างจุดกึ่งกลางระหว่างคำขอของผู้เล่นและมาตรฐานความปลอดภัยที่จำเป็น"  

ตัวกรองข้อความที่ได้รับการปรับปรุง: พัฒนาจากรูปแบบสู่บริบท

คุณสมบัติด้านความปลอดภัยของเราได้รับการพัฒนาอย่างต่อเนื่องเพื่อให้สอดคล้องกับวิธีการแชทของผู้ใช้บน Roblox ระบบกรองข้อความของเราได้รับการฝึกฝนให้ตรวจจับและบล็อกเนื้อหาใด ๆ ที่ขัดต่อมาตรฐานชุมชนของเรา สิ่งนี้จำเป็นต้องเกิดขึ้นในระดับโลกและแบบเรียลไทม์ ในขณะที่ผู้ใช้กำลังแชทอยู่

ในตอนแรก ระบบนี้มีสองส่วนประกอบ: 1) ระบบที่ใช้กฎเกณฑ์ซึ่งออกแบบมาเพื่อตรวจจับและบล็อกเนื้อหาที่ละเมิดกฎของเราภายในไม่กี่นาทีเมื่อเกิดเหตุการณ์ในโลกจริง 2) ชุดของโมเดลเฉพาะทางที่ได้รับการฝึกฝนจากโมเดลขนาดใหญ่ โดยอิงจากชุดตัวอย่างที่จำลองและตัวอย่างจริงซึ่งมีการอัปเดตอย่างต่อเนื่องเพื่อรวมประเภทของภาษาที่พัฒนาไป 

โมเดลเฉพาะทางเหล่านี้มีความสามารถสูงในงานเฉพาะ เช่น การค้นหาคำที่เราไม่อนุญาตในรายการ แต่พวกมันไม่สามารถคิดวิเคราะห์ได้ดีนัก ดังนั้นจึงไม่เหมาะกับการค้นหาคำที่กำลังเปลี่ยนแปลง โมเดลขนาดใหญ่มากไม่สามารถทำงานแบบเรียลไทม์ได้ และมักเกิดอาการหลอน (หรือการจัดประเภทผิดพลาด) ซึ่งเพิ่มจำนวนผลลัพธ์ที่ผิดพลาด 

ในการอัปเดตนี้ เราได้แนะนำส่วนประกอบใหม่ซึ่งเป็นองค์ประกอบที่สามของระบบตัวกรองข้อความของเรา ตอนนี้ เมื่อโมเดลเฉพาะทางไม่แน่ใจว่าบางสิ่งกำลังละเมิดกฎหรือไม่ พวกมันจะถูกส่งไปยังโมเดลขนาดใหญ่มากที่มีความสามารถในการให้เหตุผลและประเมินบริบทได้ดียิ่งขึ้น โมเดลขนาดใหญ่เหล่านี้สามารถตัดสินใจในเรื่องที่ซับซ้อนมากขึ้นได้ 

การทดลองของเราแสดงให้เห็นว่าวิธีการแบบผสมผสานนี้ได้ปรับปรุงตัวกรองของเราอย่างมีนัยสำคัญ ตัวกรองสามารถตรวจจับภาษาลีท หรือตัวอักษรที่ถูกแทนที่ด้วยตัวเลขหรือสัญลักษณ์ได้ดีขึ้น รวมถึงความพยายามที่ซับซ้อนมากขึ้นในการหลบเลี่ยงตัวกรองของเรา ไม่มีระบบใดที่สมบูรณ์แบบ แต่เรารู้สึกตื่นเต้นที่นวัตกรรมล่าสุดนี้ช่วยให้เราลดความถี่ของการตรวจไม่พบข้อมูลส่วนบุคคลที่แชร์หรือร้องขอ เช่น ชื่อผู้ใช้หรือหมายเลขโทรศัพท์ ลงได้ถึง 20 เท่า

นี่เป็นแนวทางใหม่ที่กล้าหาญ และเราอาจไม่สามารถปรับคำให้สมบูรณ์แบบได้เสมอไป แต่เราจะยังคงเรียนรู้และทดลองต่อไปในขณะที่เราก้าวไปข้างหน้า และเราจะลดจำนวนผู้ใช้ที่เห็น ##### ในการแชทของพวกเขาอย่างต่อเนื่อง โดยมีเป้าหมายระยะยาวในการยกเลิกการใช้งานอย่างสมบูรณ์ เป้าหมายสูงสุดของเราคือการให้ผู้ใช้สามารถร่วมมือและเชื่อมต่อในแบบที่ทั้งสนุกและให้เกียรติซึ่งกันและกัน