كيف أن الانضمام كشريك مؤسس لمبادرة مفتوحة المصدر جديدة هو مفتاح نهجنا تجاه السلامة على الإنترنت
- أصبحت الذكاء الاصطناعي (AI) أساسًا لكيفية تعاملنا مع مسألة السلامة في Roblox، ونحن نطبق نماذجنا على الاتصالات النصية والصوتية، والصور، والنماذج والشبكات ثلاثية الأبعاد.
- لطالما كان تعزيز سلامة المستخدمين، خاصةً أصغر مستخدمينا، على رأس أولوياتنا، ولهذا السبب نواصل الاستثمار في أنظمة السلامة لدينا وتحسينها.
- المساهمة في مجتمع البرمجيات مفتوحة المصدر أمر مهم بالنسبة لنا. ونحن نعمل على توسيع مكانتنا الريادية في مجال تكنولوجيا السلامة من خلال الانضمام كشريك مؤسس لـ ROOST، وهي منظمة غير ربحية جديدة مكرسة لمعالجة المجالات المهمة في مجال السلامة الرقمية من خلال تعزيز أدوات السلامة مفتوحة المصدر.
- كما أننا نعمل على إتاحة نسخة جديدة من نموذج مصنف أمان الصوت الخاص بنا كمصدر مفتوح (وهو نموذج مكون من 94 مليون معلمة يعالج ما يصل إلى 400,000 ساعة من الكلام النشط يوميًا على منصتنا)، ونخطط لإصدار نماذج إضافية مفتوحة المصدر للذكاء الاصطناعي للأمان في المستقبل.
لقد كان تعزيز السلامة واللياقة أمرًا أساسيًا لـ Roblox منذ تأسيسنا قبل ما يقرب من عقدين. يعد تصميم أنظمة لتعزيز السلامة للجميع جهدًا كبيرًا، خاصة على نطاقنا العالمي ومع جميع أنواع المحتوى المختلفة التي ندعمها. لهذا السبب نستثمر بكثافة في البنية التحتية والذكاء الاصطناعي والموارد البشرية. مع وجود مئات النماذج قيد الإنتاج، يتم تشغيل كل تفاعل تقريبًا على Roblox بطريقة ما بواسطة الذكاء الاصطناعي.
في الربع الرابع من عام 2024، قام مستخدمونا بتحميل أكثر من 300 مليار عنصر من المحتوى تشمل الفيديو والصوت والنص والدردشة الصوتية والأفاتار والتجارب ثلاثية الأبعاد. ومع ذلك، تم الكشف عن 0.01% فقط من هذا المحتوى على أنه ينتهك سياساتنا، ولم يشاهد المستخدمون معظمه لأنه تمت مراقبته بشكل استباقي. لقد ابتكرنا أيضًا ذكاءً اصطناعيًا أساسيًا عالي الأداء للحفاظ على أمان مجموعتنا الكاملة من المحتوى وطرق التواصل. تعمل هذه النماذج على أكثر من 4 مليارات رسالة نصية يوميًا بزمن انتقال لا يتجاوز أجزاء من الألف من الثانية، وملايين الساعات الصوتية وعناصر المحتوى. نحن ملتزمون بالكشف عن المحتوى السيئ واتخاذ قرارات الإشراف على نطاق واسع.
الأمان هو أمر يتجاوز Roblox. في حين أننا قادرون على المساعدة في حماية مستخدمينا عندما يكونون على منصتنا، فإن قدرتنا على القيام بذلك محدودة عندما لا يكونون على Roblox. في الواقع، تواجه شركات الإنترنت في جميع أنحاء العالم هذه التحديات عندما ينتقل مستخدموها من منصة إلى أخرى. لذلك، على مر السنين، قمنا بدور قيادي في تعزيز ممارسات الأمان واللياقة على الإنترنت من خلال الانضمام إلى منظمات مثل معهد أمان العائلة على الإنترنت (Family Online Safety Institute) والتحالف التكنولوجي (Tech Coalition).
والآن، نفخر بتوسيع مكانتنا الريادية في مجال السلامة عبر الإنترنت من خلال الانضمام كشريك مؤسس — إلى جانب Google و OpenAI و Discord وغيرها — إلى ROOST (Robust Open Online Safety Tools). تكرس هذه المنظمة غير الربحية الجديدة جهودها لمعالجة مجالات مهمة في السلامة الرقمية — لا سيما سلامة الأطفال عبر الإنترنت — من خلال بناء أدوات أمان قابلة للتطوير وقابلة للتشغيل البيني ومرنة ومناسبة لعصر الذكاء الاصطناعي.
ستقوم ROOST بتطوير وصيانة وتوزيع موارد أمان مجانية مفتوحة المصدر يمكن للمنظمات العامة والخاصة من جميع الأحجام — والتي يفتقر الكثير منها إلى الوصول إلى تقنيات الأمان الأساسية — استخدامها لتعزيز أنظمتها من أجل الحفاظ على أمان مستخدميها. سيسمح ذلك لهذه المنظمات بتركيز المزيد من طاقاتها على تنمية أعمالها.
نحن متحمسون للمساعدة في تعزيز السلامة عبر الإنترنت، ولهذا الغرض، سنكون أيضًا رئيسًا مشاركًا للجنة الاستشارية التكنولوجية لـ ROOST. سيتيح لنا ذلك الفرصة لمشاركة ما تعلمناه، وتقديم المعلومات والدعم لعمل المنظمة واستراتيجيتها التقنية.
إن انضمامنا كشريك مؤسس لـ ROOST يتيح لنا الاستفادة من خبرة مجتمع ROOST في نمذجة التعلم الآلي لتطوير تقنيات السلامة التي نستخدمها ونشاركها. وهذا أمر مثير لأن ROOST تعمل في ثلاثة مجالات أساسية للسلامة عبر الإنترنت تعتبر ذات أهمية حاسمة لـ Roblox والمنصات الأخرى عبر الإنترنت. وتشمل هذه المجالات:
- تحسين سلامة الأطفال، بما في ذلك تطوير مصنفات أقوى لمواد الاعتداء الجنسي على الأطفال (CSAM)
- بناء بنية تحتية أفضل للسلامة، مثل وحدات التحكم في المراجعة، والمحركات الاستدلالية، وجمع وتنظيم المزيد من أمثلة التدريب، وأخذ العينات الإحصائية، ووضع العلامات، وتدريب البشر على حالات الاستخدام هذه
- إنشاء إجراءات حماية للمحتوى مدعومة بنماذج لغوية كبيرة (LLM) تستفيد من الذكاء الاصطناعي لمراجعة وتدريب المشرفين على تطبيق السياسات
قال إيلي شوغرمان، نائب رئيس مجلس إدارة ROOST: "إن انضمام شركة رائدة عالميًا في مجال السلامة عبر الإنترنت مثل Roblox إلى ROOST كشريك مؤسس يمثل فرصة كبيرة لنا." "بفضل التزامها المثبت بالسلامة مفتوحة المصدر، تتمتع Roblox بموقع ممتاز لمشاركة نهجها المبتكر للمساعدة في حماية المجتمع الإلكتروني بأكمله."
هذه لحظة مهمة للمجتمع الإلكتروني بأكمله، وعملنا على أدوات المصادر المفتوحة هو عنصر رئيسي في ذلك. نعتقد أن الذكاء الاصطناعي هو تقنية يجب أن تُبنى على الشفافية والانفتاح، ونحن ملتزمون بأن نكون شريكًا قويًا في مجتمع الذكاء الاصطناعي مفتوح المصدر.
المساهمة بالتكنولوجيا في مجتمع المصادر المفتوحة
إن كوننا شريكًا مؤسسًا لـ ROOST يتماشى مع نهجنا في المساهمة بالتكنولوجيا في مجتمع المصادر المفتوحة. هذه رحلة بدأناها العام الماضي عندما قمنا بفتح مصدر نموذج مصنف أمان الصوت الخاص بنا، والذي يمكنه اكتشاف انتهاكات السياسة بشكل أكثر دقة من المراقبين البشريين على نطاق ملايين الدقائق من النشاط الصوتي يوميًا. منذ ذلك الحين، تم تنزيله ما يقرب من 22,000 مرة.
لدينا الآن نسخة محدثة من هذا النموذج قيد الإنتاج تتعامل مع سبع لغات جديدة — الإسبانية والألمانية والفرنسية والبرتغالية والإيطالية والكورية واليابانية — وتطبق تقنيات جديدة تجعل النموذج أكثر فعالية. وتشمل هذه التقنيات بنية تدريب منهجية لضبط التصنيف البشري، وتوسيع نطاق حالات الإساءة، وإضافة طبقات أكثر كفاءة لاستخراج الميزات وتقليل الوقت. نخطط لإتاحة النسخة الجديدة من النموذج كمصدر مفتوح بحلول نهاية الربع الأول من عام 2025. وبالنظر إلى المستقبل، نخطط أيضًا لإتاحة نماذج التصنيف للأنماط الأخرى كمصدر مفتوح في وقت لاحق من هذا العام.
إن جعل أدواتنا مفتوحة المصدر هو جزء من هويتنا، سواء في بعض أعمالنا المتعلقة بالسلامة أو في مجال الإبداع أيضًا. على سبيل المثال، كشفنا العام الماضي عن نموذجنا الأساسي ثلاثي الأبعاد، الذي سيساعد المبدعين على دمج العديد من أنواع أدوات الإنشاء التلقائي في تجاربهم.
نحن متحمسون لكوننا شريكًا مؤسسًا لمجتمع ROOST، ونهدف إلى التعاون مع قادة آخرين في هذا المجال والمساهمة بكل ما في وسعنا لجعل الإنترنت مكانًا أكثر أمانًا.
