تعزيز السلوك الحضاري والسلامة لجميع المستخدمين

قضت Roblox ما يقرب من عقدين من الزمن في العمل على جعل المنصة واحدة من أكثر البيئات أمانًا على الإنترنت لمستخدمينا، ولا سيما المستخدمين الأصغر سنًا. تتمثل رؤيتنا التوجيهية في إنشاء المجتمع الأكثر أمانًا وحضارة في العالم.

مع تطور منصتنا وتوسعها، وصياغة مستقبل جديد للتواصل والترابط، يظل استثمارنا في تدابير السلامة الوقائية أمرًا أساسيًا. وهذا أمر ضروري لنكون الأفضل في العالم في تقديم تجارب آمنة ومتحضرة عبر الإنترنت. مع مرور كل عام، ننفذ استراتيجيات وتقنيات جديدة لتحقيق مكاسب في سرعة وفعالية أنظمة السلامة والإشراف لدينا.

يتمتع عشرات الملايين من الأشخاص من جميع الأعمار يوميًا بتجربة آمنة وإيجابية على Roblox، مع الالتزام بمعايير مجتمعنا. على سبيل المثال، كما هو موضح في تقرير الشفافية السنوي الأخير، أنتج مستخدمو Roblox وحمّلوا ما يقرب من 205 مليار محتوى إجمالي على منصة Roblox، وتم مراجعة كل محتوى منها بواسطة أدوات الإشراف على المحتوى لدينا. تم الإبلاغ عن 0.0063٪ فقط من إجمالي هذا المحتوى على أنه ينتهك سياساتنا المتعلقة بقضايا مثل التنمر وخطاب الكراهية والتطرف العنيف عبر أنظمة الكشف والإبلاغ لدينا. وليس من قبيل المصادفة أن سياساتنا أكثر صرامة بكثير من تلك الموجودة على الشبكات الاجتماعية ومنصات المحتوى الذي ينشئه المستخدمون، وتغطي كل شيء بدءًا من الألفاظ البذيئة وصولًا إلى معايير الإعلانات.

نقوم باستمرار بقياس مجموعة واسعة من المقاييس الداخلية — باستخدام أنظمة آلية وبشرية — تشمل كل شيء بدءًا من التنمر وصولًا إلى اللغة غير اللائقة. يوجه هذا النهج عملنا في تعزيز التفاعلات الأكثر أمانًا وحضارية على الإنترنت، وعلى المستوى الأساسي، يعني ذلك أنه يمكننا القول إن مشكلات السلامة ليست منتشرة أو منهجية على Roblox. والالتزام بهذا العمل أمر بالغ الأهمية — فنحن جميعًا جزء من عائلات ونعلم أن حتى حادثة واحدة تتعلق بصحة أو سلامة الأطفال هي أمر مروع. نتعاطف بشدة مع العائلات والأفراد الذين تأثروا بذلك.

لقد بنينا منصة ترتكز على السلامة

يساعد كل فريق في Roblox على ضمان تصميم المنتجات مع مراعاة السلامة. بالإضافة إلى 10٪ من موظفينا بدوام كامل وآلاف المتعاقدين الذين يركزون حصريًا على الثقة والسلامة، يعمل المئات من موظفي Roblox الآخرين على بناء وتحسين التكنولوجيا التي يعتمد عليها فريق الثقة والسلامة لدينا. علاوة على ذلك، تلتزم قيادتنا بضمان تزويد هذه الفرق بالموارد المناسبة دائمًا. ننفق مئات الملايين من الدولارات كل عام للوفاء بمهمتنا في مجال السلامة.

أدت التطورات الحديثة التي حققناها في مجال الذكاء الاصطناعي إلى تحسين السلامة على Roblox. وقد زادت نماذج اللغة الكبيرة، والذكاء الاصطناعي متعدد الوسائط، والنماذج المخصصة التي تحدد مشكلات السلامة في اللغة المنطوقة من دقة وكفاءة الإشراف. ولضمان نزاهة جهودنا، لا نطبق الأتمتة المدعومة بالذكاء الاصطناعي إلا بعد أن نثبت أنها تنتج نتائج أكثر دقة من البشر عند تطبيقها على نطاق واسع. ورغم أن الذكاء الاصطناعي قد أتمت بعض المهام البشرية، إلا أنه سمح لموظفينا بالتركيز على تحقيقات أكثر تعقيدًا، بما في ذلك إنفاذ سياستنا التي تحظر استدراج القاصرين وطلب معلوماتهم الشخصية.

لدينا نهج متعدد الجوانب ومترابط تجاه السلامة

• تخضع التحديثات والميزات المهمة لعملية "الثقة من خلال التصميم" الصارمة لجمع التعليقات وتحديد مشكلات السلامة المحتملة قبل التطوير بوقت كافٍ.
• نقوم بمراقبة جميع الاتصالات على المنصة بشكل استباقي من خلال مزيج من الذكاء الاصطناعي والمراجعة البشرية. إذا تم تحديد أي علامات على وجود ضرر خطير، يتم إحالتها إلى فريق التحقيق لدينا.
• يتم تصفية الكلمات والعبارات غير اللائقة من جميع الاتصالات النصية باستخدام مرشحات آلية صارمة رائدة في الصناعة.
• يوفر نظام الاتصال الصوتي لدينا تعليقات في الوقت الفعلي للمستخدمين الذين ينتهكون سياساتنا. وقد أدى ذلك إلى أن يصبح السلوك على Roblox أكثر تحضراً بشكل ملحوظ.
• بالنسبة للمستخدمين الذين تقل أعمارهم عن 13 عامًا، تمنع مرشحاتنا مشاركة المعلومات الشخصية ومحاولات نقل المحادثات خارج Roblox، حيث تكون معايير السلامة والإشراف أقل صرامة.
• لا نسمح للمستخدمين بتبادل الصور أو مقاطع الفيديو عبر الرسائل الصوتية أو النصية على Roblox.
• يخضع كل المحتوى الذي يتم تحميله على Roblox، بما في ذلك الصور وملفات الفيديو والصوت والنماذج ثلاثية الأبعاد والنصوص، لعملية مراجعة شاملة باستخدام الذكاء الاصطناعي متعدد الوسائط المدعوم بالبشر.
• يقوم فريق السلامة لدينا بمشاركة الرؤى والإرشادات باستمرار في جميع أنحاء الشركة لتحسين سلامة منصتنا ومنتجاتنا.

نضمن حصول المستخدمين على وصول سهل ومتسق إلى الميزات التي تسمح لهم بالإبلاغ عن المحتوى المسيء أو المبتذل أو غير المناسب لمجتمعنا عبر الإنترنت. تتيح ميزة "الإبلاغ عن إساءة استخدام"، الموجودة في مكان بارز في جميع أنحاء Roblox — بما في ذلك داخل التجارب — للمستخدمين الإبلاغ بسهولة عن المحتوى أو السلوك غير اللائق، ونحن نشجع مستخدمينا على استخدامها.

يمكن للآباء تقييد أو تعطيل إمكانيات الدردشة عبر الإنترنت، وتخصيص الوصول إلى التجارب بناءً على توصيات العمر، واختيار خيارات لحدود الإنفاق. تعد التعليقات الواردة من المستخدمين والآباء وأعضاء مجتمعنا الآخرين واحدة من أفضل الأدوات المتاحة لدينا لتحسين منتجاتنا. نستكشف باستمرار طرقًا مختلفة لتحديث أنظمة الرقابة الأبوية لدينا لجعلها أكثر فائدة.

نحن ملتزمون بشدة بمعالجة التحدي الذي يواجهه القطاع بأسره فيما يتعلق بالسلامة عبر الإنترنت

تعد السلامة واللياقة على الإنترنت — لا سيما سلامة المستخدمين الصغار — قضية على مستوى الصناعة نتعاون فيها بنشاط مع سلطات إنفاذ القانون والمنظمات الصناعية الرئيسية وصانعي السياسات. نحن ندرك وجود جهات فاعلة سيئة، ونشعر بقلق عميق إزاء أي تقارير عن تعرض الأطفال للخطر. لهذا السبب، كانت Roblox، على سبيل المثال، أول شركة، وواحدة من الشركات القليلة، التي دعمت قانون كاليفورنيا لتصميم المحتوى المناسب للعمر (California Age-Appropriate Design Code Act)، ووقعت مؤخرًا على خطاب دعم لمشروع قانون كاليفورنيا SB 933، الذي يحدّث قوانين الولاية لحظر مواد الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل صريح.

نحن نعمل مع سلطات إنفاذ القانون لتعقب الجناة

على مر السنين، أقمنا علاقات عميقة ودائمة مع سلطات إنفاذ القانون على المستويات الدولية والاتحادية والولائية، ونقوم بانتظام بمشاركة أفضل الممارسات. نقدم إرشادات واضحة حول كيفية اتصال سلطات إنفاذ القانون بفريقنا، بما في ذلك الموارد التي نوفرها عبر الإنترنت لربط سلطات إنفاذ القانون مباشرة ببوابة Roblox لإنفاذ القانون. كما نقوم بشكل استباقي بالإبلاغ عن التهديدات المحتملة للأمن إلى سلطات إنفاذ القانون من خلال التكامل مع فريق EXTRACT التابع لمكتب التحقيقات الفيدرالي (FBI)، والذي تم تصميمه للتعامل مع البلاغات الواردة من منصات مثل منصتنا.

نقوم بشكل استباقي بالإبلاغ عن المحتوى الذي قد يشكل خطرًا إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC). تعد CyberTipline التابعة لـ NCMEC آلية إبلاغ مخصصة للجمهور ومقدمي الخدمات الإلكترونية (ESPs) للإبلاغ عن حالات الاشتباه في الاستغلال الجنسي للأطفال. في عام 2023، أبلغت Roblox عن 13,316 حادثة إلى NCMEC (تتخذ Roblox موقفًا حذرًا من أجل السلامة، ونتيجة لذلك، لديها عتبة إبلاغ أقل من المنصات الأخرى). لوضع حجم الحوادث على Roblox في سياقه الصحيح، في عام 2023، تلقت CyberTipline أكثر من 35 مليون بلاغ تتعلق بحوادث على منصات أخرى من مزودي خدمات إلكترونية آخرين.

نحن نعمل على توسيع علاقاتنا وأبحاثنا وتعاوننا على مستوى القطاع لإيجاد حلول جديدة معًا 

كما نتواصل ونتعاون عبر قطاعنا. وإدراكًا منا أن تعزيز الكياسة والأمان في التواصل عبر الإنترنت يمثل قضية على مستوى القطاع بأكمله، فإننا على تواصل مستمر مع المنصات الأخرى والمنظمات غير الحكومية والاتحادات الأكاديمية/الصناعية التي تعمل على إيجاد حلول للتصدي للمخالفين. على سبيل المثال، تعد Roblox عضوًا نشطًا في Tech Coalition منذ عام 2018 وانضمت إلى Lantern كعضو مؤسس. يتيح هذا البرنامج الأول من نوعه لتبادل الإشارات عبر المنصات للشركات المشاركة تبادل المعلومات واتخاذ إجراءات ضد الجهات الفاعلة السيئة التي تنتقل من منصة إلى أخرى.

"تظل Roblox عضوًا مهمًا في Tech Coalition، بما في ذلك كجزء من مجلس إدارتنا. وقد أظهرت الشركة قيادة داخل مجموعات العمل لدينا، حيث ساعدت في اتخاذ قرارات حاسمة على مستوى الصناعة، مثل سعي Tech Coalition إلى إنشاء Lantern ووضع خرائط طريق للقطاع، من بين أمور أخرى. يساعد هذا العمل Roblox والصناعة بشكل عام على بناء القدرات لمكافحة الاستغلال والاعتداء الجنسيين على الأطفال عبر الإنترنت." شون ليتون، المدير التنفيذي، Tech Coalition

كما نعمل على تحسين السلامة في جميع أنحاء القطاع من خلال البرمجيات مفتوحة المصدر والتعاون مع الشركاء. على سبيل المثال، في العام الماضي، جمع مختبر الصحة الرقمية في مستشفى بوسطن للأطفال وقادة من Roblox أكثر من 100 خبير بارز في مجال السلامة واللياقة من جميع أنحاء العالم لتبادل الأفكار ووضع إطار عمل حول الخطوات اللازمة في مجالات الابتكار التكنولوجي والسياسات والتعليم لجعل العالم الرقمي مكانًا آمنًا ومحترمًا حقًا، خاصةً للشباب، وعبر مختلف التخصصات لمناقشة التحدي وعقد ورش عمل حوله كأعضاء في مجموعة عمل اللياقة.

كما يمنحنا تعاوننا الوثيق مع هذه المجموعة الواسعة من المنظمات العامة والخاصة، بما في ذلك مجموعات الدفاع عن حقوق الوالدين ومنظمات الصحة العقلية والوكالات الحكومية، رؤى قيّمة حول مخاوف الوالدين وصانعي السياسات وغيرهم بشأن السلامة عبر الإنترنت، بينما نشارك معارفنا وحلولنا التكنولوجية.

كما ندعو إلى سياسات تتوافق مع هذه الدروس وتخدم مصلحة الشباب.

لقد حظينا بالتقدير لمبادراتنا في مجال السلامة واللياقة من قبل العديد من المنظمات الصناعية ومنظمات المجتمع المدني التي تركز على السلامة. ومن بين هذه المنظمات منظمة إنقاذ الطفولة (Save the Children)، ومختبر الصحة الرقمية (Digital Wellness Lab)، ومنظمة الاتصال الآمن (Connect Safely)، ومكتب الممثل الخاص للأمين العام للأمم المتحدة المعني بالعنف ضد الأطفال، ومعهد سلامة الأسرة على الإنترنت (FOSI).

"منذ أول لقاءاتنا مع Roblox، أعجبنا التزامهم بالسلامة. هذا الالتزام ينبع من رئيسهم التنفيذي، وقد أتيحت لنا الفرصة لتقديم نقد بناء من خلال مجلسهم الاستشاري للثقة والسلامة. حافظت Roblox باستمرار على دورها الريادي فيما يتعلق بالسلامة عبر الإنترنت بشكل عام، وبالسياسات والأدوات التي أنشأوها خصيصًا لمجتمعاتهم عبر الإنترنت." ستيفن بالكام، الرئيس التنفيذي، معهد سلامة الأسرة عبر الإنترنت

سنواصل العمل بلا كلل للحفاظ على سلامة مستخدمينا واليقظة تجاه الأطراف السيئة التي قد تحاول التحايل على أنظمة السلامة لدينا. ونحن ندرك أيضًا أن هذا العمل الحاسم لا ينتهي أبدًا. نلتزم بالاستثمار والتكيف باستمرار لمواجهة التهديدات المتغيرة للحفاظ على سلامة مجتمعنا. نحن نعمل بالفعل على الجيل التالي من أدوات وميزات السلامة، حيث نسعى إلى مواصلة ريادتنا في مستقبل السلامة واللياقة على الإنترنت.