نشرة السلامة: مارس

في نشرة السلامة لشهر مارس، نشارك كيف نقوم بالإشراف على المحتوى باستخدام أنظمة آلية مصممة لاكتشاف المحتوى المخالف وإزالته، غالبًا قبل أن يراه المستخدمون. ونشارك أيضًا لوحة تحليلات جديدة تمكّن المصمّمين من رصد السلوكيات المخالفة للمستخدمين ومعالجتها في ألعابهم، إضافةً إلى برنامج جديد لتدريب مديري المجتمع على مستوى المجال. راجع نشرة السلامة للشهر الماضي لمعرفة المزيد عن أدوات الإبلاغ عن المستخدمين. 

الإشراف المستمر على سلوك المستخدمين

يكمن جزء من سحر منصّة Roblox في المحتوى المتنامي والمتغير باستمرار الذي يقدمه مصمّمونا. في أي لحظة، ينشر المصمّمون تحديثات ألعابهم ويضيفون وسامًا أو حيوانًا أليفًا جديدًا، بينما يقوم المستخدمون بتغيير ملابس الأفاتارات، والرسم أو البناء في الوقت الفعلي. نقوم بمراجعة كل شيء قبل نشره على المنصّة، ونزيل أي محتوى يخالف القواعد الإرشادية.

ترصد عدة طبقات من أدوات الإشراف الغالبية العظمى من المحتوى المخالف على منصّة Roblox، ونرفض أي محتوى يخالف معايير مجتمعنا. لكننا لسنا مثاليين، ونستفيد من بلاغات المستخدمين لاكتشاف أي محتوى قد نكون أغفلناه، ونتخذ الإجراءات اللازمة فورًا.

تعكس الطبيعة الديناميكية لألعاب منصّة Roblox تغيّر المحتوى باستمرار وفق طريقة دمج المستخدمين للأفاتارات والثياب والحركات المعتمدة مسبقًا. على سبيل المثال، في الألعاب التي تسمح بالرسم الحر، قد يرسم المستخدم رمزًا أو عنصرًا مسيئًا. ولهذا السبب، أطلقنا مؤخرًا نظام ذكاء اصطناعي جديد للإشراف متعدد الوسائط في الوقت الفعلي، القادر على مسح هذه التركيبات معًا.

تم تصميم أنظمة الإشراف التقليدية للذكاء الاصطناعي لتقييم كائن واحد في كل مرة، وغالبًا ما تفتقر للسياق، ما يؤدي إلى فقدان التركيبات التي قد تكون إشكالية بطرق لا تظهر عند النظر إلى كل كائن على حدة. يقيم نظامنا الجديد للإشراف متعدد الوسائط في الوقت الفعلي المشهد بأكمله، بما في ذلك الأفاتارات والنصوص والكائنات ثلاثية الأبعاد. يَلتقط هذا النظام كل هذه العناصر معًا في لحظة معينة، ويقيّم ما إذا كان المشهد بأكمله ينتهك قواعدنا. إذا تكرّر هذا النوع من السلوك المخالف في حالة واحدة من اللعبة، سيقوم النظام بإلغاء تلك الحالة فقط (ويُطلق عليها أيضًا اسم خادم)، بدلًا من إيقاف اللعبة بأكملها.

منذ إطلاق هذا النظام متعدد الوسائط، قمنا بإلغاء نحو 5000 حالة يوميًا تنتهك معايير المجتمع لدينا. أثناء تدريبنا وتوسيع نظامنا، نعمل باستمرار على تحسين دقته. كما نتعاون مع المجتمع لتقليل الإيجابيات الكاذبة. ونعمل على توسيع هذا النظام متعدد الوسائط ليتمكن من التقاط ومراقبة 100% من أوقات اللعب. نظرًا لأن هناك دائمًا أفرادًا يسعون للتحايل على أي نظام، نعمل بنشاط على تطوير تقنيات تتجاوز مجرد إلغاء الخوادم. نعمل على إيجاد طرق لتحديد المستخدمين المسيئين بعينهم، حتى نتمكن من إزالتهم دون التأثير على تجربة اللاعبين ذوي النوايا الحسنة.

تمكين المصممين من متابعة حالات إلغاء الخوادم

نقدم للمصممين شفافية أكبر حول نتائج نظام الإشراف متعدد الوسائط هذا، عبر إضافة جديدة في لوحة نظرة عامة على السلامة. كما ذُكر أعلاه، نقوم بإلغاء خوادم اللعبة عندما تتفشى فيها السلوكيات المسيئة من المستخدمين. ولمنح المصممين رؤية أكبر حول مدى تكرار حدوث ذلك في ألعابهم، أضفنا مخططًا جديدًا إلى لوحة تحليلات المصمّم الحالية. 

أصبح بإمكان المصمّمين الآن الاطلاع على عدد خوادم ألعابهم التي تم إلغاؤها بسبب السلوكيات السيئة من المستخدمين (مثل انتهاك سياساتنا المتعلقة بالتحرش والتمييز أو المحتوى الرومانسي والجنسي). ويساعدهم ذلك في اكتشاف أي زيادة مفاجئة حتى يتمكنوا من التصرف قبل أن تؤثر عمليات الإلغاء على مجتمعهم الأوسع. يمكنهم بعد ذلك الاطِّلاع على لعبتهم عن كثب، وتحديد ما إذا كانت هناك حاجة لتعديل العواطف (Emotes) المخصصة، أو أدوات تحرير الأفاتار، أو ميزات إنشاء المستخدم داخل اللعبة، بما يساعد على منع المحتوى الإبداعي الذي يثير المشاكل. 

تدريب مشرفي المحتوى الرقمي

تتعاون كل من Roblox وKeyword Studios وRiot Games مع راشيل كويرت، عالمة النفس البحثية ومديرة الأبحاث في Games for Change، لإطلاق برنامج اعتماد جديد لقادة المجتمع الرقمي. ستساهم منصّة Roblox بخبرتها في الإشراف على المجتمع والتصميم الاجتماعي الإيجابي في تجربة المنهج الدراسي الخاص ببرنامج قيادة DLC الجديد والمساعدة في تطويره. تهدف هذه المبادرة إلى معالجة النقص في برامج التدريب الموحّدة للمشرفين عبر الإنترنت، ومديري المجتمع، والمصمّمين في مجال الألعاب. في مقال نُشر مؤخرًا، قالت كويرت إن البرنامج يهدف إلى تحويل الأبحاث المتعلقة بمجتمعات الألعاب والسلوك عبر الإنترنت إلى أدوات عملية يمكن للقادة الرقميين استخدامها لبناء مجتمعات أكثر مرونة واستدامة عبر الإنترنت.

من خلال المشاركة في هذه المبادرة، ستسهم منصّة Roblox في قيادة مجال الألعاب من خلال تطوير برنامج اعتماد موحد فريد من نوعه، مصمّم لدعم مجتمع المصمّمين في منصّة Roblox وتعزيز صناعة الألعاب بشكل أوسع. عند الانتهاء من البرنامج، سيساعد المصممين على اكتساب المهارات الأساسية اللازمة للإشراف على مجتمعاتهم المتنامية وإدارتها بشكل فعّال. نؤمن أن تدريب المزيد من المشرفين والمصممين على أفضل الممارسات لإنشاء مجتمعات صحية ومحترمة عبر الإنترنت سيساعد في جعل الألعاب على الإنترنت أكثر إيجابية للجميع.