सुरक्षा झलक: दिसंबर

भौतिक दुनिया की तरह ही, हमारा मानना है कि बड़े किशोरों के बीच होने वाली बातचीत वयस्कों के लिए उपयुक्त नहीं हो सकती है और इसके विपरीत भी। इसलिए, आयु जांच शुरू करने के साथ, हम वयस्कों और नाबालिगों के बीच संचार को भी सीमित कर रहे हैं। हमने बच्चों के विकास के विशेषज्ञों के साथ साझेदारी की है ताकि वे हमें ऐसे सामान्य ज्ञान वाले आयु समूहों को परिभाषित करने में मदद कर सकें जो Roblox पर एक-दूसरे से चैट कर सकते हैं।

नेशनल क्राइम एजेंसी एक कानून प्रवर्तन समूह की अध्यक्षता करती है जिसमें एफबीआई, ऑस्ट्रेलियाई संघीय पुलिस और न्यूजीलैंड पुलिस शामिल हैं। एजेंसी के एक प्रवक्ता ने कहा, "मजबूत और अत्यधिक प्रभावी आयु आश्वासन तकनीक ऑनलाइन बाल उपयोगकर्ताओं की सुरक्षा बनाए रखने में एक महत्वपूर्ण भूमिका निभाती है, जो उन्हें हानिकारक और अवैध सामग्री और उच्च जोखिम वाली बातचीत से बचाने में मदद करती है, जबकि वे आयु-उपयुक्त डिजिटल साक्षरता कौशल विकसित करते हैं।" 

हालांकि यह व्यापक रूप से समझा जाता है कि सभी बड़े ऑनलाइन प्लेटफ़ॉर्म पर युवा उपयोगकर्ताओं की संख्या होती है, लेकिन रॉब्लॉक्स इस मामले में अनोखा है कि हम इस तथ्य को स्वीकार करते हैं और सुरक्षा के लिए सभी-आयु-समूहों वाला दृष्टिकोण अपनाते हैं। हम उपयोगकर्ताओं के बीच संचार को एन्क्रिप्ट नहीं करते हैं, हम सभी गतिविधियों की गंभीर नुकसान के संकेतों के लिए निगरानी करते हैं, हम उपयोगकर्ताओं को चैट में छवियां या वीडियो साझा करने की अनुमति नहीं देते हैं, और पता चलने पर संभावित समस्याओं की तुरंत कानून प्रवर्तन को सूचना देते हैं। 

सुरक्षा के लिए हमारा बहु-स्तरीय दृष्टिकोण

जिस तरह कार निर्माता ड्राइवरों को सुरक्षित रखने के लिए केवल सीटबेल्ट पर निर्भर नहीं करते हैं, उसी तरह Roblox सुरक्षा के लिए एक बहु-स्तरीय दृष्टिकोण अपनाता है। आधुनिक कारों में कई तत्व (एयरबैग, सेंसर, आदि) होते हैं जो मिलकर ड्राइवरों को सुरक्षित रखते हैं। हालांकि Roblox पर आयु सत्यापन, स्वयं घोषित आयु के उद्योग मानक की तुलना में एक महत्वपूर्ण सुधार है, फिर भी यह सुरक्षा के प्रति हमारे समग्र दृष्टिकोण की केवल एक परत है। इस नई तकनीक के अलावा, हम ऐसी नीतियां और सामुदायिक मानक बनाए रखते हैं जो जानबूझकर अधिकांश अन्य प्लेटफार्मों की तुलना में अधिक सख्त हैं। हम उन उपयोगकर्ताओं के बीच अपशब्दों या छवियों या व्यक्तिगत रूप से पहचान योग्य जानकारी साझा करने की अनुमति नहीं देते हैं जो विश्वसनीय कनेक्शन (Trusted Connections) नहीं हैं। 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए, हम नशीली दवाओं या शराब के चित्रण की अनुमति नहीं देते हैं। 

उन्नत एआई मॉडल हर दिन Roblox पर जोड़े जाने वाले अरबों कंटेंट की निगरानी करते हैं और हमारे सामुदायिक मानकों का उल्लंघन करने वाले कंटेंट को ब्लॉक या हटा देते हैं। हम इन मॉडलों का समर्थन हजारों सुरक्षा पेशेवरों से कराते हैं क्योंकि हम जानते हैं कि इस प्रक्रिया में एआई सिर्फ एक परत है। हम सर्वोत्तम प्रथाओं, नवीनतम नीतियों और दिशानिर्देशों, और माता-पिता तथा उपयोगकर्ताओं की हमसे क्या अपेक्षाएं हैं, इस बारे में नए शोध पर अभिभावक वकालत और मानसिक स्वास्थ्य संगठनों, कानून प्रवर्तन, और सरकारी अधिकारियों के साथ भी मिलकर काम करते हैं।  

हमारा लक्ष्य किसी भी समस्याग्रस्त सामग्री को उपयोगकर्ताओं द्वारा देखने या उसके साथ बातचीत करने से पहले पकड़ना है। हम जानते हैं कि कोई भी प्रणाली परिपूर्ण नहीं होती, इसलिए हम उपयोगकर्ताओं के लिए किसी भी ऐसी चीज़ की रिपोर्ट करना आसान भी बनाते हैं जो उनकी नज़र में आती है। ये रिपोर्टें न केवल हमें अनुचित सामग्री को हटाने में मदद करती हैं, बल्कि हमारी प्रणाली को प्रशिक्षित करने और मज़बूत करने में भी मदद करती हैं। हमारा मानना है कि आयु जांच हमारी परिष्कृत सुरक्षा पारिस्थितिकी तंत्र का एक महत्वपूर्ण नया हिस्सा होगा।  

आयु जांच हमें अपने सभी उपयोगकर्ताओं को आयु-उपयुक्त अनुभव और संचार प्रदान करने में मदद करती है, लेकिन हम जानते हैं कि हमेशा और करने की गुंजाइश रहती है। जैसे-जैसे नई तकनीक उपलब्ध होती है, हम अपनी बड़ी प्रणाली में लगातार सुधार कर रहे हैं और नई परतें जोड़ रहे हैं। हमने अकेले इस साल 145 से अधिक सुरक्षा सुधार जारी किए हैं, और आने वाले समय में और भी बहुत कुछ आने वाला है।