การเป็นพันธมิตรผู้ก่อตั้งโครงการโอเพ่นซอร์สใหม่เป็นกุญแจสำคัญต่อแนวทางของเราในการรักษาความปลอดภัยออนไลน์

• ปัญญาประดิษฐ์ได้กลายเป็นพื้นฐานสำคัญในการที่เราจัดการกับความปลอดภัยที่ Roblox และเรานำโมเดลของเราไปใช้กับการสื่อสารทั้งข้อความและเสียง ภาพ และโมเดล 3 มิติ รวมถึงตาข่ายสามมิติ
• การส่งเสริมความปลอดภัยของผู้ใช้ โดยเฉพาะอย่างยิ่งสำหรับผู้ใช้ที่อายุน้อยที่สุดของเรา เป็นสิ่งที่เราให้ความสำคัญเป็นอันดับแรกเสมอ และนั่นคือเหตุผลที่เราลงทุนและปรับปรุงระบบความปลอดภัยของเราอย่างต่อเนื่อง 
• การมีส่วนร่วมกับชุมชนโอเพนซอร์สมีความสำคัญต่อเรา และเรากำลังขยายตำแหน่งผู้นำของเราในเทคโนโลยีด้านความปลอดภัยด้วยการเป็นพันธมิตรผู้ก่อตั้งของ ROOST ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรใหม่ที่มุ่งเน้นการแก้ไขประเด็นสำคัญในด้านความปลอดภัยดิจิทัลโดยการส่งเสริมเครื่องมือความปลอดภัยแบบโอเพนซอร์ส
• เรายังเปิดเผยโค้ดแบบโอเพนซอร์สสำหรับรุ่นใหม่ของโมเดลจำแนกความปลอดภัยเสียงของเรา (โมเดลที่มีพารามิเตอร์ 94 ล้านตัวแปร ซึ่งประมวลผลเสียงพูดที่ใช้งานจริงได้สูงสุดถึง 400,000 ชั่วโมงต่อวันบนแพลตฟอร์มของเรา) และเราวางแผนที่จะเปิดตัวโมเดล AI ด้านความปลอดภัยแบบโอเพนซอร์สเพิ่มเติมในอนาคต

การส่งเสริมความปลอดภัยและความมีน้ำใจต่อกันเป็นรากฐานของ Roblox มาตั้งแต่เริ่มก่อตั้งเมื่อเกือบสองทศวรรษที่แล้ว การออกแบบระบบเพื่อส่งเสริมความปลอดภัยสำหรับทุกคนเป็นความพยายามที่สำคัญอย่างยิ่ง โดยเฉพาะอย่างยิ่งในระดับโลกของเราและกับเนื้อหาหลากหลายประเภทที่เราสนับสนุน นั่นคือเหตุผลที่เราลงทุนอย่างมากในโครงสร้างพื้นฐาน ปัญญาประดิษฐ์ และบุคลากร ด้วยโมเดลหลายร้อยตัวที่อยู่ในกระบวนการผลิต การโต้ตอบเกือบทุกครั้งบน Roblox ได้รับการขับเคลื่อนด้วย AI ในบางรูปแบบ

ในไตรมาสที่สี่ของปี 2024 ผู้ใช้ของเราได้อัปโหลดเนื้อหาเกิน 300,000 ล้านชิ้น ซึ่งครอบคลุมวิดีโอ, เสียง, ข้อความ, แชทเสียง, อวาตาร์, และประสบการณ์ 3D อย่างไรก็ตาม มีเพียง 0.01% ของเนื้อหาที่ถูกตรวจพบว่าเป็นผู้ละเมิดนโยบายของเรา และส่วนใหญ่ไม่ได้ถูกผู้ใช้เห็น เนื่องจากได้รับการตรวจสอบและจัดการอย่าง proaktif เราได้คิดค้น AI ประสิทธิภาพสูงขั้นพื้นฐานเพื่อรักษาความปลอดภัยให้กับเนื้อหาและรูปแบบการสื่อสารทั้งหมดของเรา โมเดลเหล่านี้ทำงานกับข้อความมากกว่า 4 พันล้านข้อความต่อวันด้วยความหน่วงเพียงไม่กี่มิลลิวินาที และรองรับชั่วโมงเสียงและเนื้อหาหลายล้านรายการ เรามุ่งมั่นที่จะตรวจจับเนื้อหาที่ไม่เหมาะสมและตัดสินใจในการกลั่นกรองในระดับใหญ่

ความปลอดภัยเป็นสิ่งที่เหนือกว่า Roblox แม้ว่าเราจะสามารถช่วยปกป้องผู้ใช้ของเราเมื่อพวกเขาอยู่บนแพลตฟอร์มของเรา แต่เรามีอำนาจจำกัดในการทำเช่นนั้นเมื่อพวกเขาไม่ได้อยู่บน Roblox อันที่จริง บริษัทอินเทอร์เน็ตทั่วโลกต่างเผชิญกับความท้าทายเหล่านี้เมื่อผู้ใช้ของพวกเขาเคลื่อนย้ายจากแพลตฟอร์มหนึ่งไปยังอีกแพลตฟอร์มหนึ่ง ดังนั้นตลอดหลายปีที่ผ่านมา เราจึงได้มีบทบาทเป็นผู้นำในการส่งเสริมความปลอดภัยและความสุภาพทางออนไลน์โดยการเข้าร่วมองค์กรต่างๆ เช่น Family Online Safety Institute และ Tech Coalition

ขณะนี้ เราภูมิใจที่ได้ขยายตำแหน่งผู้นำของเราในด้านความปลอดภัยออนไลน์ด้วยการเป็นพันธมิตรผู้ก่อตั้งร่วมกับ Google, OpenAI, Discord และองค์กรอื่น ๆ ในโครงการ ROOST (Robust Open Online Safety Tools) องค์กรไม่แสวงหาผลกำไรใหม่นี้มุ่งมั่นที่จะแก้ไขปัญหาสำคัญในด้านความปลอดภัยดิจิทัล โดยเฉพาะความปลอดภัยของเด็กออนไลน์ โดยการสร้างเครื่องมือความปลอดภัยที่สามารถปรับขนาดได้ ทำงานร่วมกันได้ และมีความยืดหยุ่น เหมาะสำหรับยุคปัญญาประดิษฐ์

ROOST จะพัฒนา ดูแลรักษา และแจกจ่ายทรัพยากรด้านความปลอดภัยแบบโอเพนซอร์สฟรี ซึ่งองค์กรภาครัฐและเอกชนทุกขนาด—หลายแห่งขาดการเข้าถึงเทคโนโลยีความปลอดภัยขั้นพื้นฐาน—สามารถนำไปใช้เพื่อเสริมระบบของตนในการรักษาความปลอดภัยให้กับผู้ใช้ได้ สิ่งนี้จะช่วยให้พวกเขาสามารถทุ่มเทพลังงานไปกับการเติบโตของธุรกิจได้มากขึ้น 

เรารู้สึกตื่นเต้นที่จะช่วยเสริมสร้างความปลอดภัยบนอินเทอร์เน็ต และเพื่อจุดประสงค์นี้ เราจะร่วมเป็นประธานร่วมของคณะกรรมการที่ปรึกษาด้านเทคโนโลยีของ ROOST ด้วย สิ่งนี้จะเปิดโอกาสให้เราได้แบ่งปันสิ่งที่เราได้เรียนรู้ และให้ข้อมูลและสนับสนุนการทำงานและกลยุทธ์ทางเทคนิคขององค์กร

การเป็นพันธมิตรผู้ก่อตั้งของ ROOST ช่วยให้เราสามารถใช้ความเชี่ยวชาญด้านการสร้างแบบจำลองการเรียนรู้ของเครื่องจากชุมชน ROOST เพื่อพัฒนาเทคนิคด้านความปลอดภัยที่เราใช้และแบ่งปันร่วมกัน สิ่งนี้น่าตื่นเต้นเพราะ ROOST กำลังทำงานในสามด้านหลักของความปลอดภัยออนไลน์ที่มีความสำคัญต่อภารกิจของ Roblox และแพลตฟอร์มออนไลน์อื่นๆ ซึ่งรวมถึง:

• การปรับปรุงความปลอดภัยของเด็ก รวมถึงการพัฒนาผู้จำแนกสื่อลามกอนาจารเด็ก (CSAM) ที่แข็งแกร่งขึ้น
• การสร้างโครงสร้างพื้นฐานด้านความปลอดภัยที่ดีขึ้น เช่น คอนโซลสำหรับการตรวจสอบ เครื่องมือวิเคราะห์เชิงประสบการณ์ และการรวบรวมและคัดสรรตัวอย่างสำหรับการฝึกอบรมเพิ่มเติม การสุ่มตัวอย่างทางสถิติ การติดป้ายกำกับ และการฝึกอบรมมนุษย์ในกรณีการใช้งานเหล่านี้ 
• การสร้างเนื้อหาที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งใช้ประโยชน์จาก AI ในการแก้ไขและฝึกอบรมผู้ดูแลเนื้อหาเพื่อบังคับใช้นโยบาย

"การมีผู้นำระดับโลกในด้านความปลอดภัยออนไลน์อย่าง Roblox เข้าร่วมเป็นพันธมิตรผู้ก่อตั้งกับ ROOST ถือเป็นโอกาสที่ยิ่งใหญ่สำหรับเรา" นายอีไล ซูเกอร์แมน รองประธานคณะกรรมการ ROOST กล่าว "ด้วยความมุ่งมั่นที่พิสูจน์แล้วในด้านความปลอดภัยแบบโอเพ่นซอร์ส Roblox อยู่ในตำแหน่งที่ยอดเยี่ยมในการแบ่งปันแนวทางนวัตกรรมเพื่อช่วยปกป้องชุมชนออนไลน์ทั้งหมด"

นี่เป็นช่วงเวลาสำคัญสำหรับชุมชนออนไลน์ทั้งหมด และงานของเราเกี่ยวกับเครื่องมือโอเพนซอร์สเป็นองค์ประกอบสำคัญในสิ่งนั้น เราคิดว่า AI เป็นเทคโนโลยีที่ควรสร้างขึ้นบนความโปร่งใสและความเปิดกว้าง และเรามุ่งมั่นที่จะเป็นพันธมิตรที่แข็งแกร่งในชุมชน AI โอเพนซอร์ส   

การมีส่วนร่วมทางเทคโนโลยีกับชุมชนโอเพนซอร์ส

การเป็นผู้ร่วมก่อตั้ง ROOST นั้นสอดคล้องกับแนวทางของเราในการมีส่วนร่วมด้านเทคโนโลยีกับชุมชนโอเพ่นซอร์ส นี่เป็นเส้นทางที่เราเริ่มต้นเมื่อปีที่แล้ว เมื่อเราได้เปิดเผยโมเดลจำแนกความปลอดภัยของเสียงของเราในรูปแบบโอเพ่นซอร์ส ซึ่งสามารถตรวจจับการละเมิดนโยบายได้แม่นยำกว่าผู้ดูแลมนุษย์ในขนาดหลายล้านนาทีของกิจกรรมเสียงต่อวัน นับตั้งแต่นั้นมา โมเดลนี้ได้รับการดาวน์โหลดเกือบ 22,000 ครั้ง

เราได้มีการอัปเดตเวอร์ชันของโมเดลนั้นในกระบวนการผลิตแล้ว ซึ่งรองรับภาษาใหม่ถึงเจ็ดภาษา ได้แก่ สเปน, เยอรมัน, ฝรั่งเศส, โปรตุเกส, อิตาลี, เกาหลี, และญี่ปุ่น พร้อมทั้งนำเทคนิคใหม่ ๆ มาใช้เพื่อให้โมเดลมีประสิทธิภาพมากขึ้น ซึ่งรวมถึงสถาปัตยกรรมการฝึกอบรมแบบหลักสูตรสำหรับการปรับแต่งด้วยป้ายกำกับจากมนุษย์, การขยายหัวการละเมิด, และการเพิ่มชั้นการสกัดคุณลักษณะที่มีประสิทธิภาพมากขึ้น รวมถึงชั้นการลดเวลา เราวางแผนที่จะเปิดเผยโค้ดแหล่งของรุ่นใหม่ให้สาธารณะทราบภายในสิ้นไตรมาสแรกของปี 2025. ในอนาคต เราวางแผนที่จะเปิดเผยโค้ดแหล่งของแบบจำลองการจำแนกประเภทสำหรับรูปแบบอื่น ๆ ภายในปีนี้.

การเปิดเผยเครื่องมือของเราในรูปแบบโอเพนซอร์สเป็นส่วนหนึ่งของตัวตนเรา ทั้งในงานด้านความปลอดภัยบางส่วนและในการสร้างสรรค์ผลงานด้วยเช่นกัน ตัวอย่างเช่น เมื่อปีที่แล้ว เราได้เปิดตัว 3D Foundational Model ซึ่งจะช่วยให้ผู้สร้างสรรค์สามารถผสานเครื่องมือสร้างเนื้อหาอัตโนมัติหลากหลายประเภทเข้ากับประสบการณ์ของพวกเขาได้

เรารู้สึกตื่นเต้นที่ได้เป็นพันธมิตรผู้ก่อตั้งชุมชน ROOST และเรามุ่งมั่นที่จะร่วมมือกับผู้นำท่านอื่น ๆ ในวงการนี้ พร้อมทั้งมีส่วนร่วมอย่างเต็มที่ในการทำให้อินเทอร์เน็ตเป็นสถานที่ที่ปลอดภัยยิ่งขึ้น