Tüm Kullanıcılar İçin Nezaket ve Güvenliği Teşvik Etmek

Roblox, platformu kullanıcılarımız, özellikle de en genç kullanıcılarımız için en güvenli çevrimiçi ortamlardan biri haline getirmek için neredeyse yirmi yıldır çalışıyor. Rehber vizyonumuz, dünyadaki en güvenli ve en medeni topluluğu oluşturmaktır.

Platformumuz gelişip büyüdükçe, iletişim ve bağlantı için yeni bir gelecek oluştururken, önleyici güvenlik önlemlerine yaptığımız yatırımlar temel önemini korumaktadır. Güvenli ve medeni çevrimiçi deneyimler sunma konusunda dünyanın en iyisi olmak için bu çok önemlidir. Her geçen yıl, güvenlik ve denetim sistemlerimizin hızını ve etkinliğini artırmak için yeni stratejiler ve teknolojiler uyguluyoruz.

Her gün, her yaştan on milyonlarca kişi, Topluluk Standartlarımıza uyarak Roblox'ta güvenli ve olumlu bir deneyim yaşıyor. Örneğin, en son yıllık Şeffaflık Raporumuzda da gösterildiği gibi, Roblox kullanıcıları Roblox platformuna toplamda yaklaşık 205 milyar içerik oluşturdu ve yükledi; bu içeriklerin her biri, içerik denetim araçlarımız tarafından incelendi. Bu toplam içeriğin yalnızca %0,0063'ü, tespit ve raporlama sistemlerimiz aracılığıyla zorbalık, nefret söylemi ve şiddet içeren aşırılık gibi konularda politikalarımızı ihlal ettiği gerekçesiyle işaretlendi. Politikalarımızın sosyal ağlarda ve kullanıcı tarafından oluşturulan içerik platformlarında bulunanlardan önemli ölçüde daha katı olması ve küfürden reklam standartlarına kadar her şeyi kapsaması bir tesadüf değildir.

Zorbalıktan uygunsuz dile kadar her şeyi kapsayan çok çeşitli iç metrikleri, hem otomatik hem de insan kaynaklı sistemler kullanarak sürekli olarak ölçüyoruz. Bu yaklaşım, internette en güvenli ve medeni etkileşimleri teşvik etme çalışmalarımıza rehberlik ediyor ve en temel düzeyde, Roblox'ta güvenlik sorunlarının yaygın veya sistematik olmadığını söyleyebileceğimiz anlamına geliyor. Ve bu çalışmaya olan bağlılık çok önemlidir; hepimiz kendimiz de ailelerin bir parçasıyız ve çocukların sağlığı veya güvenliğiyle ilgili tek bir olayın bile korkunç olduğunu biliyoruz. Etkilenen ailelere ve bireylere derin bir sempati duyuyoruz.

Temeli güvenlik üzerine kurulu bir platform oluşturduk

Roblox'taki her ekip, ürünlerin güvenlik öncelikli olarak tasarlanmasına yardımcı olur. Tam zamanlı çalışanlarımızın %10'u ve binlerce yüklenicimizin yanı sıra, Güven ve Güvenlik Ekibimizin dayandığı teknolojiyi geliştirmek ve iyileştirmek için yüzlerce Roblox çalışanı daha görev yapmaktadır. Ayrıca, liderlik ekibimiz bu ekiplerin her zaman yeterli kaynağa sahip olmasını sağlamaya kararlıdır. Güvenlik misyonumuzu yerine getirmek için her yıl yüz milyonlarca dolar harcıyoruz.

Yapay zeka alanındaki son gelişmelerimiz, Roblox'taki güvenliği artırdı. Büyük dil modelleri, çok modlu yapay zeka ve konuşma dilindeki güvenlik sorunlarını tespit eden özel modeller, moderasyonun doğruluğunu ve verimliliğini artırdı. Çabalarımızın bütünlüğünü sağlamak için, yapay zeka destekli otomasyonu ancak büyük ölçekte uygulandığında insanlardan daha doğru sonuçlar verdiğini kanıtladıktan sonra devreye sokuyoruz. Yapay zeka bazı insan çabalarını otomatikleştirirken, personelimizin reşit olmayanları taciz etmeyi ve kişisel bilgilerini istemeyi yasaklayan politikamızı uygulamak da dahil olmak üzere daha karmaşık soruşturmalara odaklanmasına da olanak sağladı.

Güvenlik konusunda çok yönlü ve birbiriyle bağlantılı bir yaklaşımımız var

• Önemli güncellemeler ve özellikler, geliştirme aşamasından çok önce geri bildirim almak ve potansiyel güvenlik sorunlarını tespit etmek için titiz bir "Trust by Design" sürecinden geçer.
• AI ve insan denetimini birleştirerek platformdaki tüm iletişimi proaktif olarak denetliyoruz. Ciddi bir zararın belirtileri tespit edildiğinde, bunlar soruşturma ekibimize iletilir.
• Uygunsuz kelime ve ifadeler, sektör lideri titiz otomatik filtreler kullanılarak tüm metin iletişiminden filtrelenir.
• Sesli iletişim sistemimiz, politikalarımızı ihlal eden kullanıcılara gerçek zamanlı geri bildirim sağlar. Bu sayede Roblox'taki davranışlar önemli ölçüde daha medeni hale gelmiştir.
• 13 yaşın altındaki kullanıcılar için filtrelerimiz, kişisel bilgilerin paylaşılmasını ve güvenlik standartları ile denetimin daha az sıkı olduğu Roblox dışındaki platformlara konuşmaları taşıma girişimlerini engeller.
• Kullanıcıların Roblox'ta sesli veya yazılı mesajlaşma yoluyla resim veya video paylaşmasına izin vermiyoruz.
• Görüntüler, video ve ses dosyaları, 3D modeller ve metinler dahil olmak üzere Roblox'a yüklenen tüm içerik, insanlar tarafından desteklenen çok modlu yapay zeka kullanılarak kapsamlı bir inceleme sürecinden geçer.
• Güvenlik ekibimiz, platformumuzun ve ürünlerimizin güvenliğini artırmak için şirket genelinde sürekli olarak içgörülerini ve rehberliklerini paylaşır.

Kullanıcıların, küfürlü, kaba veya çevrimiçi topluluğumuz için başka bir şekilde uygunsuz olan içeriği işaretlemelerine olanak tanıyan özelliklere kolay ve tutarlı bir şekilde erişebilmelerini sağlıyoruz. Roblox'un her yerinde (deneyimler dahil) göze çarpan bir şekilde yer alan Kötüye Kullanımı Bildir özelliği, kullanıcıların uygunsuz içerik veya davranışları kolayca bildirmelerine olanak tanır ve kullanıcılarımızı bu özelliği kullanmaya teşvik ederiz.

Ebeveynler, çevrimiçi sohbet özelliklerini sınırlayabilir veya devre dışı bırakabilir, yaş önerilerine göre deneyimlere erişimi özelleştirebilir ve harcama limitleri için seçenekler belirleyebilir. Kullanıcılar, ebeveynler ve topluluğumuzun diğer üyelerinden gelen geri bildirimler, ürünlerimizi iyileştirmek için sahip olduğumuz en iyi araçlardan biridir. Ebeveyn kontrol sistemlerimizi daha da kullanışlı hale getirmek için sürekli olarak farklı güncelleme yöntemleri araştırıyoruz.

Çevrimiçi güvenlik konusunda sektör genelinde karşılaşılan zorlukları ele almaya büyük önem veriyoruz

Çevrimiçi güvenlik ve nezaket, özellikle de genç kullanıcıların güvenliği, kolluk kuvvetleri, önemli sektör kuruluşları ve politika yapıcılarla aktif olarak işbirliği yaptığımız sektör genelinde bir sorundur. Kötü niyetli kişilerin olduğunu biliyoruz ve çocukların tehlikeye atıldığına dair her türlü bildirimden derin endişe duyuyoruz. Bu nedenle, örneğin Roblox, Kaliforniya Yaş Uygun Tasarım Yasası'nı destekleyen ilk ve tek şirketlerden biri oldu ve daha yakın zamanda, yapay zeka tarafından üretilen çocuk cinsel istismarı materyallerini açıkça yasaklamak üzere eyalet yasalarını güncelleyen Kaliforniya SB 933 Tasarısı'na destek mektubu imzaladı.

Suçluları bulmak için kolluk kuvvetleriyle işbirliği yapıyoruz

Yıllar boyunca, uluslararası, federal ve eyalet düzeylerinde kolluk kuvvetleriyle derin ve kalıcı ilişkiler kurduk ve düzenli olarak en iyi uygulamaları paylaşıyoruz. Kolluk kuvvetlerinin ekibimizle nasıl iletişime geçebileceği konusunda net rehberlik sağlıyoruz; buna, kolluk kuvvetlerini doğrudan Roblox Kolluk Kuvvetleri Portalı'na bağlamak için çevrimiçi olarak sunduğumuz kaynaklar da dahildir. Ayrıca, bizimki gibi platformlardan gelen bildirimleri ele almak üzere tasarlanmış FBI'ın EXTRACT ekibi ile entegrasyon yoluyla potansiyel güvenlik tehditlerini kolluk kuvvetlerine proaktif olarak bildiriyoruz.

Potansiyel olarak riskli içeriği Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) proaktif olarak bildiriyoruz. NCMEC'in CyberTipline'ı, halkın ve elektronik hizmet sağlayıcılarının (ESP'ler) çocuk cinsel istismarı şüphesi olan vakaları bildirmeleri için belirlenmiş bir bildirim mekanizmasıdır. 2023 yılında Roblox, NCMEC'e 13.316 vaka bildirdi (Roblox, güvenlik konusunda ihtiyatlı davranır ve bu nedenle diğer platformlara göre daha düşük bir bildirim eşiğine sahiptir). Roblox'taki vaka sayısını bir bağlama oturtmak gerekirse, 2023 yılında CyberTipline, diğer ESP'lerden diğer platformlardaki vakalarla ilgili 35 milyondan fazla bildirim aldı.

Birlikte yeni çözümler bulmak için sektör genelindeki ilişkilerimizi, araştırmalarımızı ve işbirliklerimizi genişletiyoruz 

Ayrıca sektörümüz genelinde iletişim kuruyor ve işbirliği yapıyoruz. Çevrimiçi iletişimin nezaket ve güvenliğini artırmanın sektör genelinde bir sorun olduğunu bilerek, kötü niyetli kişilere karşı çözümler bulmak için çalışan diğer platformlar, STK'lar ve akademik/endüstri konsorsiyumlarıyla sürekli iletişim halindeyiz. Örneğin Roblox, 2018'den beri Tech Coalition'ın aktif bir üyesidir ve Lantern'a kurucu üye olarak katılmıştır. Türünün ilk örneği olan bu platformlar arası sinyal paylaşım programı, katılımcı şirketlerin bilgi paylaşmasına ve platformdan platforma geçen kötü niyetli kullanıcılar hakkında önlem almasına olanak tanır.

"Roblox, Yönetim Kurulumuzun bir parçası olarak da dahil olmak üzere, Tech Coalition'ın değerli bir üyesi olmaya devam etmektedir. Çalışma gruplarımızda liderlik sergilemişler ve Tech Coalition'ın Lantern'ı takip etmesi ve sektör yol haritalarının geliştirilmesi gibi sektör genelindeki kritik kararların alınmasına yardımcı olmuşlardır. Bu çalışma, Roblox'un ve daha geniş anlamda sektörün çevrimiçi çocuk cinsel istismarı ve sömürüsüyle mücadele etme kapasitesini geliştirmesine yardımcı olmaktadır." Sean Litton, Tech Coalition İcra Direktörü

Ayrıca, açık kaynak ve ortaklarla işbirliği yoluyla sektör genelinde güvenliği artırmaya çalışıyoruz. Örneğin geçen yıl, Boston Çocuk Hastanesi'ndeki Dijital Sağlık Laboratuvarı ve Roblox'un liderleri, dünyanın dört bir yanından 100'ün üzerinde önde gelen güvenlik ve nezaket uzmanını bir araya getirerek fikirlerini paylaşmalarını sağladı. Bu toplantı, özellikle gençler için çevrimiçi dünyayı gerçekten güvenli ve nezaketli bir alan haline getirmek amacıyla teknoloji inovasyonu, politika ve eğitim alanlarında atılması gereken adımlara ilişkin bir çerçeve oluşturmak ve farklı disiplinlerden katılımcıların Nezaket Çalışma Grubu üyeleri olarak bu zorlu konuyu değerlendirmeleri ve üzerinde çalışabilmeleri için düzenlendi.

Ebeveyn hakları savunucuları, ruh sağlığı kuruluşları ve devlet kurumları dahil olmak üzere çok çeşitli kamu ve özel kuruluşlarla olan yakın işbirliğimiz, öğrendiklerimizi ve teknoloji çözümlerimizi paylaşırken, ebeveynlerin, politika yapıcıların ve diğer kişilerin çevrimiçi güvenlik konusundaki endişeleri hakkında da bize değerli bilgiler sağlıyor.

Ayrıca, bu bilgilerle uyumlu ve gençlerin yararına olan politikaları savunuyoruz.

Güvenlik ve nezaket girişimlerimiz, güvenlik odaklı çok sayıda sektör ve sivil toplum kuruluşu tarafından takdir edilmiştir. Bunlar arasında Save the Children, Digital Wellness Lab, Connect Safely, Birleşmiş Milletler Genel Sekreteri'nin Çocuklara Yönelik Şiddet Konusunda Özel Temsilcisi Ofisi ve Family Online Safety Institute (FOSI) bulunmaktadır.

"Roblox ile ilk tanıştığımız andan itibaren, güvenlik konusundaki kararlılıklarından çok etkilendik. Bu kararlılık, CEO'larından kaynaklanıyor ve biz de Güven ve Güvenlik Danışma Kurulu aracılığıyla yapıcı eleştirilerde bulunma fırsatı bulduk. Roblox, genel olarak çevrimiçi güvenlik konusunda ve özellikle çevrimiçi toplulukları için oluşturdukları politikalar ve araçlar konusunda sürekli olarak liderlik rolünü sürdürmüştür." Stephen Balkam, CEO, Family Online Safety Institute

Kullanıcılarımızın güvenliğini sağlamak ve güvenlik sistemlerimizi atlatmaya çalışabilecek kötü niyetli kişilere karşı uyanık olmak için yorulmadan çalışmaya devam edeceğiz. Ayrıca, bu kritik çalışmanın asla bitmeyeceğini de biliyoruz. Topluluğumuzun güvenliğini sağlamak için, sürekli olarak yatırım yapmaya ve değişen tehdit ortamına uyum sağlamaya kararlıyız. Çevrimiçi güvenlik ve nezaketin geleceğinde lider olmaya devam etmek amacıyla, şimdiden yeni nesil güvenlik araçları ve özellikleri üzerinde çalışıyoruz.