Tech Talks الحلقة 28: آخر المستجدات حول مبادراتنا المتعلقة بالسلامة

00:02 مقدمة "
مرحبًا، أنا ديفيد بازوكي، مؤسس Roblox ومديرها التنفيذي، وأنتم تستمعون إلى Tech Talks، حيث نتحدث عن كل ما يحدث في Roblox. لدينا متابعة سريعة اليوم... بعد الإصدار الساخن لتقدير عمر الوجه، وTrusted Connections، ومجموعة كبيرة من الأشياء الأخرى... سنغوص في بعض الأشياء الجديدة التي نطلقها." 

04:13 لماذا غيرنا اسم "الأصدقاء" إلى "العلاقات"
ديفيد بازوكي: "لقد قمنا بخطوة يمكن القول إنها مثيرة للجدل، لأننا نفكر في المستقبل... كانت هناك ميزة موجودة بالفعل في المواصفات الأولى لـ Roblox، منذ ما يقرب من 20 عامًا، وهي ميزة تسمى "الأصدقاء". قمنا بتغيير اسمها إلى "العلاقات" و"العلاقات الموثوقة".

6:28 القضايا الحساسة إليزا جاكوبس: "كان الهدف من هذا الإطلاق هو منح الآباء مزيدًا من الرؤية والخيارات بشأن الأشياء التي يتفاعل معها أصغر مستخدمينا على المنصة. وأحد الأشياء التي نعرفها عن مجتمعنا هو أن لدينا مجتمعًا عالميًا من المبدعين الذين ينشرون محتوى من إنشاء المستخدمين، والذين، كما قلت، يتمتعون بإبداع هائل. ما يعنيه ذلك هو أنه، بالنسبة للمواضيع شديدة الحساسية، قد يكون للعائلات آراء مختلفة جدًا بشأنها، أو قد ترغب في التعامل معها مع أطفالها بطرق حساسة للغاية... لذا فإننا نمنح الآباء الخيار إما السماح بالوصول إلى الألعاب التي تدور حول تلك المواضيع بشكل أساسي، أو عدم السماح بذلك."

12:48 المراقبون
مات كوفمان: "أود أن أبدأ بالقول إنه سواء داخل Roblox أو خارجها، هناك الكثير من الأشخاص الذين لديهم نوايا حسنة حقًا ويهتمون برفاهية مجتمعنا. نريد جميعًا الحفاظ على أمان Roblox، ونعطي الأولوية لأمان الأطفال، على وجه الخصوص، قبل أي شيء آخر... ولدينا أعضاء في المجتمع ضمن مجموعات الحراس هذه التي بدأت بنية حسنة حقًا." 

21:11 السؤال 1: لماذا لم نتصرف بشكل أسرع تجاه أنشطة المراقبة؟
مات كوفمان: "لدينا أنظمة مطبقة لمراقبة كل هذه الأنشطة. و... رأينا بعضًا من سلوكيات الحراسة هذه، وقررنا اتباع نهج بطيء تجاهها وفهم ما يحدث قبل أن نقرر التصرف... كنا نفكر أيضًا بعناية في سياساتنا، ونفكر بعناية في التأكد من أننا جمعنا الأدلة داخليًا على انتهاكات السياسة، وفهمنا حقًا ما يحدث قبل أن نتصرف." 

23:37 السؤال 2: هل نبذل ما يكفي كمنصة؟
إليزا جاكوبس: "أعتقد أن هناك دائمًا المزيد الذي يمكننا القيام به، وسنواصل تطوير سياساتنا ومنتجاتنا للاستجابة لمصادر التهديد الجديدة وأشكال الإساءة الجديدة. نحن نعمل الآن على تحديث السياسة المتعلقة بالألعاب التي تحتوي على مساحات خاصة، مثل غرف النوم والحمامات... وستشاهدون قريبًا تحديثًا منا في هذا الصدد. كما نعمل أيضًا على إنشاء مجلس لسلامة المجتمع." 

25:26 فتح مصدر تقنيات
الأمان الخاصة بنا مات كوفمان: "نشعر أن هذه فرصة لـ Roblox لتقديم مساعدة حقيقية للصناعة بأكملها، وليس فقط لما يحدث على Roblox. نحن نتخذ موقفًا أكثر استباقية في فتح مصدر التكنولوجيا الرئيسية التي نمتلكها على المنصة. لقد فتحنا مصدر نموذج الإشراف الصوتي العام الماضي، ومؤخرًا، فتحنا مصدر نموذج جديد يساعد في الكشف عن التحرش الجنسي وأنواع أخرى من الأذى التي تتطور على مدى فترة طويلة من الزمن."  

26:49 السؤال 3: ماذا عن هذه الألعاب المحددة؟
إليزا جاكوبس: "أحد التحديات الحقيقية على هذه المنصة العالمية والتفاعلية والغامرة هو أن لدينا محتوى أنشأه المطورون والمبدعون، ومحتوى أنشأه المستخدمون في تلك اللعبة. وأحد الأشياء التي نحاول فعلها حقًا هو أن نكون منصفين مع مطورينا، وألا نراقبهم بسبب سلوك مستخدميهم، أليس كذلك؟ لا يبدو ذلك عادلًا على الإطلاق، فنحن نزيل لعبة لأن المستخدمين كانوا يتصرفون بشكل سيئ فيها. ومع ذلك... نحن نستثمر في ما نسميه "الكشف عن المشاهد السيئة"، حتى نتمكن من مراقبة تلك الخوادم في الوقت الفعلي وإزالتها إذا كان المستخدمون يتصرفون بشكل سيئ."

30:47 كيفية الإبلاغ
إليزا جاكوبس: "يمكن للمستخدمين الإبلاغ عن أي شيء يرونه مخالفًا. يمكنهم الإبلاغ عن أسماء المستخدمين، ويمكنهم الإبلاغ عن الألعاب، ويمكنهم الإبلاغ عن كل أنواع الأشياء. أهم شيء هو أن يقدموا أكبر قدر ممكن من المعلومات في التقرير حتى تتمكن فرقنا من التحقيق في الأمر. هذا أمر بالغ الأهمية، أليس كذلك؟ لأننا، مرة أخرى، نريد أن نكون منصفين تجاه مجتمعنا ونتأكد من أننا لاحظنا السلوك السيئ، وأن لدينا أدلة عليه. عندها يمكننا إخبار الأشخاص عندما ينتهكون السياسات، وأن هناك دائمًا وسيلة للاستئناف. لذا، إذا أخطأنا، يمكنهم الاستئناف، ويمكننا، مرة أخرى، إلقاء نظرة على تلك الأدلة."

36:34 جعل سلامة الصوت واللياقة
العامة مفتوحة المصدر مات كوفمان: "ما رأيناه على الإنترنت هو أن الكثير من الأشخاص الذين يأتون إلى Roblox لا يعرفون القواعد. وبالنسبة لمعظم الناس، لا يتطلب الأمر سوى القليل من التوجيه لتصحيح المسار ووضعهم على طريق أكثر لياقة. كان علينا إيجاد طريقة للقيام بذلك في الوقت الفعلي... قمنا ببناء نموذج يعتمد مباشرة على التواصل الصوتي الفعلي، أي ما يقوله الناس، ويكون قادرًا على قياس ما إذا كان ذلك يتوافق مع سياساتنا أم لا. وقد كنا متحمسين جدًا لنتائج هذا النموذج لدرجة أننا قمنا بجعله مفتوح المصدر."

40:01 جعل Roblox Sentinel
مفتوح المصدر مات كوفمان: "Roblox Sentinel هو نموذج جعلناه مفتوح المصدر قبل بضعة أسابيع. والغرض من هذا النموذج هو البحث عن أنماط السلوك طويلة المدى التي تؤدي إلى انتهاكات لسياساتنا... محادثات عادية حقًا، مثل، "مرحبًا، كيف يومك؟ هل تريد أن تلعب هذه اللعبة؟" بمرور الوقت، قد تتطور ببطء إلى شيء أكثر انتهاكًا. قد تتطور إلى نقل هذا المستخدم إلى منصة مختلفة. وهذه الأشياء يصعب اكتشافها في اللحظة نفسها."