Güvenlik Özeti: Mart

Mart Güvenlik Özetimizde, sorunlu içeriği tespit etmek ve genellikle kullanıcılar görmeden önce kaldırmak için tasarlanmış otomatik sistemler aracılığıyla içerikleri nasıl denetlediğimizi paylaşıyoruz. Ayrıca yaratıcılara kendi oyunlarındaki kötü kullanıcı davranışlarını tespit etme ve bunlarla ilgilenme konusunda yetki veren yeni bir kontrol panelini ve sektör genelindeki topluluk yöneticilerine yönelik yeni bir eğitim programını da paylaşıyoruz. Kullanıcı raporlama araçları hakkında daha fazla bilgi için geçen ayki Güvenlik Özetine göz at. 

Kullanıcı Davranışlarının Sürekli Olarak Denetlenmesi

Roblox'un büyüsünün bir parçası da yaratıcılarımız tarafından üretilen, sürekli çoğalan ve değişen içeriklerdir. Yaratıcılar her an oyun güncellemeleri yayınlıyor ve yeni rozetler ya da evcil hayvanlar ekliyor; kullanıcılar ise avatarlarının kıyafetlerini değiştiriyor ve gerçek zamanlı olarak bir şeyler boyuyor veya inşa ediyor. Tüm bunları platformda yayınlanmadan önce inceliyor ve yönergelerimize aykırı olan her şeyi kaldırıyoruz.

Birden fazla katman hâlindeki denetim araçları, Roblox'taki sorunlu içeriklerin büyük çoğunluğunu tespit ediyor ve biz de Topluluk Standartlarımıza aykırı olan her şeyi reddediyoruz. Ancak mükemmel değiliz, bu nedenle gözden kaçırmış olabileceğimiz herhangi bir şeyi bulmamıza ve buna göre harekete geçmemize yardımcı olması için kullanıcı raporlarından yararlanıyoruz.

Roblox oyunlarının dinamik yapısından ötürü içerikler, kullanıcıların daha önce onaylanmış avatarları, kıyafetleri ve hareketleri nasıl bir araya getirdiğine bağlı olarak sürekli değişir. Örneğin serbest çizim imkânı sunan oyunlarda bir kullanıcı rahatsız edici bir sembol veya nesne çizebilir. Bu nedenle yakın zamanda, bu kombinasyonları birlikte tarayabilen ve gerçek zamanlı çok modlu denetime olanak tanıyan yeni bir yapay zekâ sistemini kullanıma sunduk.

Geleneksel yapay zekâ denetim sistemleri, her seferinde tek bir nesneyi değerlendirmek üzere tasarlanmıştır ve genellikle bağlamdan yoksundur. Bu nedenle, tek başlarına zararsız olan öğelerin birlikte sorun teşkil edebileceği kombinasyonları gözden kaçırırlar. Yeni gerçek zamanlı çok modlu denetim sistemimiz; avatarlar, metinler ve 3 boyutlu nesneler dâhil olmak üzere bir sahnenin tamamını değerlendirir. Tüm bu unsurları belirli bir anda bir arada yakalar ve bir bütün olarak sahnenin kurallarımızı ihlal edip etmediğini değerlendirir. Bu tip sorunlu davranışlar tek bir oyun durumunda tekrar tekrar gerçekleşirse sistem, oyunun tamamı yerine yalnızca o durumu (sunucu olarak da adlandırılır) kapatır.

Bu çok modlu sistemi kullanıma sunduğumuzdan bu yana Topluluk Standartlarımızı ihlal ettiği için kapattığımız durum sayısı gün başına yaklaşık 5.000'dir. Eğitim ve ölçeklendirme sürecinde doğruluk oranımızı sürekli artırıyor ve yanlış pozitifleri en aza indirmek için toplulukla birlikte çalışıyoruz. Bu çok modlu sistemi, oyun süresinin %100'ünü yakalayıp izleyecek şekilde ölçeklendirmek için çalışıyoruz. Ancak her zaman her sistemi atlatmaya çalışan kişiler olacaktır, bu nedenle aktif olarak sunucuları kapatmanın ötesine geçen bir teknoloji geliştiriyoruz. İyi niyetli oyuncuların deneyimini bozmadan belirli kötü niyetli kişileri tespit edip ortamdan çıkarabilmemizi sağlayacak yöntemler üzerinde çalışıyoruz.

Yaratıcılara Sunucu Kapatma İşlemleri Konusunda Görünürlük Sağlama

Güvenliğe genel bakış kontrol paneline yaptığımız bir eklemeyle yaratıcılara bu çok modlu denetim sisteminin sonuçları konusunda daha fazla şeffaflık sağlıyoruz. Yukarıda belirtildiği gibi kötü kullanıcı davranışlarıyla dolup taşan oyun sunucularını kapatıyoruz. Yaratıcıların, bunun oyunlarında ne sıklıkta gerçekleştiğini daha iyi görebilmelerini sağlamak için mevcut Yaratıcı Kontrol Panellerine yeni bir grafik ekledik. 

Yaratıcılar artık oyun sunucularından kaç tanesinin kötü kullanıcı davranışı (ör. taciz ve ayrımcılık ya da romantik ve cinsel içerik politikalarımızı ihlal etme) nedeniyle kapatıldığını görebilir. Bu, ani bir artışı tespit etmelerine yardımcı olur ve böylelikle topluluklarını daha geniş çapta etkileyecek bir kapanma meydana gelmeden harekete geçmelerine olanak tanır. Daha sonra oyunlarına daha yakından göz atabilir ve sorunlu yaratımların önlenmesine yardımcı olmak için özel ifadelerde, avatar düzenleme araçlarında veya oyun içi kullanıcı yaratım özelliklerinde değişiklik yapılması gerekip gerekmediğine karar verebilirler. 

Dijital Denetimcilerin Eğitimi

Roblox, Keyword Studios ve Riot Games, dijital topluluk liderlerine yönelik yeni bir sertifika programı için araştırma psikoloğu ve Games for Change Araştırma Direktörü Rachel Kowert ile iş birliği yapıyor. Roblox, yeni DLC Liderlik Programı'nın pilot uygulamasını gerçekleştirmek ve müfredatını şekillendirmeye yardımcı olmak için topluluk denetimi ve prososyal tasarım konusundaki uzmanlığıyla katkıda bulunacaktır. Bu girişimin amacı, oyun dünyasındaki çevrimiçi denetimciler, topluluk yöneticileri ve yaratıcılara yönelik standartlaştırılmış bir eğitim eksikliğini gidermektir. Kowert, yakın tarihli bir makalesinde programın amacının "oyun toplulukları ve çevrimiçi davranışlarla ilgili araştırmaları, dijital liderlerin daha dayanıklı ve sürdürülebilir çevrimiçi topluluklar oluşturmak için kullanabilecekleri pratik araçlara dönüştürmek" olduğunu belirtmiştir.

Bu girişime katılarak, Roblox yaratıcı topluluğuna ve daha genel anlamda oyun sektörüne fayda sağlamak üzere tasarlanmış, türünün ilk örneği olan standartlaştırılmış bir sertifika programı geliştirerek sektöre öncülük edilmesine yardımcı olacağız. Tamamlandığında program, yaratıcıların büyüyen topluluklarını etkili bir şekilde denetlemek ve yönetmek için gereken kritik becerileri öğrenmelerine katkıda bulunacak. Daha fazla denetimciye ve yaratıcıya sağlıklı ve saygılı çevrimiçi topluluklar için en iyi uygulamalar konusunda eğitim vermenin, çevrimiçi oyun oynamayı herkes için daha olumlu hâle getirmeyi sağlayacağına inanıyoruz.