Yeni bir açık kaynak girişiminin kurucu ortağı olmak, çevrimiçi güvenliğe yaklaşımımızın anahtarıdır

• AI, Roblox'ta güvenliğe yaklaşımımızın temelini oluşturmaktadır ve modellerimizi metin ve sesli iletişim, görseller, 3D modeller ve ağlara uyguluyoruz.
• Özellikle en genç kullanıcılarımızın güvenliğini sağlamak her zaman en büyük önceliğimiz olmuştur ve bu nedenle güvenlik sistemlerimize yatırım yapmaya ve bunları geliştirmeye devam ediyoruz. 
• Açık kaynak topluluğuna katkıda bulunmak bizim için önemlidir. Ayrıca, açık kaynaklı güvenlik araçlarını teşvik ederek dijital güvenlikteki önemli alanları ele almaya adanmış yeni bir kar amacı gütmeyen kuruluş olan ROOST'un kurucu ortağı olarak güvenlik teknolojisindeki lider konumumuzu genişletiyoruz.
• Ayrıca, sesli güvenlik sınıflandırıcı modelimizin yeni bir sürümünü (platformumuzda günlük 400.000 saate kadar aktif konuşmayı işleyen 94 milyon parametreli bir model) açık kaynak olarak yayınlıyoruz ve gelecekte ek açık kaynaklı güvenlik AI modelleri yayınlamayı planlıyoruz.

Güvenlik ve nezaketi teşvik etmek, yaklaşık yirmi yıl önce kurulduğumuzdan beri Roblox için temel bir unsur olmuştur. Herkes için güvenliği teşvik edecek sistemler tasarlamak, özellikle küresel ölçeğimizde ve desteklediğimiz tüm farklı içerik türleri göz önüne alındığında büyük bir çabadır. Bu nedenle altyapı, yapay zeka ve insan kaynağına büyük yatırımlar yapıyoruz. Üretimde olan yüzlerce model sayesinde, Roblox'taki neredeyse her etkileşim bir şekilde yapay zeka tarafından desteklenmektedir.

2024'ün dördüncü çeyreğinde, kullanıcılarımız video, ses, metin, sesli sohbet, avatarlar ve 3D deneyimleri içeren 300 milyardan fazla içerik yükledi. Ancak bu içeriğin yalnızca %0,01'i politikalarımızı ihlal ettiği tespit edildi ve bunların çoğu proaktif olarak denetlendiği için kullanıcılar tarafından görülmedi. Ayrıca, tüm içerik ve iletişim yöntemlerimizi güvende tutmak için temel yüksek performanslı yapay zeka geliştirdik. Bu modeller, günde 4 milyardan fazla metin mesajını sadece milisaniyelik gecikmeyle işliyor ve milyonlarca saatlik ses kaydı ile içerik öğesini işliyor. Kötü içeriği tespit etmeye ve büyük ölçekte denetim kararları almaya kararlıyız.

Güvenlik, Roblox'un ötesine geçen bir konudur. Kullanıcılarımız platformumuzdayken onları korumaya yardımcı olabilsek de, Roblox'ta olmadıkları zaman bunu yapma gücümüz sınırlıdır. Aslında, dünyanın dört bir yanındaki internet şirketleri, kullanıcıları bir platformdan diğerine geçtiğinde bu zorluklarla karşı karşıya kalır. Bu nedenle yıllar boyunca, Family Online Safety Institute ve Tech Coalition gibi kuruluşlara katılarak çevrimiçi güvenlik ve nezaket uygulamalarını teşvik etme konusunda liderlik rolü üstlendik.

Şimdi, Google, OpenAI, Discord ve diğerleriyle birlikte ROOST'un (Robust Open Online Safety Tools) kurucu ortağı olarak çevrimiçi güvenlik alanındaki liderlik konumumuzu genişletmekten gurur duyuyoruz. Bu yeni kar amacı gütmeyen kuruluş, yapay zeka çağına uygun ölçeklenebilir, birlikte çalışabilir ve dayanıklı güvenlik araçları geliştirerek dijital güvenlikteki önemli alanları, özellikle de çevrimiçi çocuk güvenliğini ele almaya adanmıştır.

ROOST, çoğu temel güvenlik teknolojisine erişimi olmayan her büyüklükteki kamu ve özel kuruluşların, kullanıcılarının güvenliğini sağlamak için sistemlerini güçlendirmek üzere kullanabilecekleri ücretsiz açık kaynaklı güvenlik kaynakları geliştirecek, sürdürecek ve dağıtacaktır. Bu sayede, bu kuruluşlar enerjilerini işlerini büyütmeye daha fazla odaklayabileceklerdir. 

İnternet genelinde güvenliği artırmaya yardımcı olmaktan heyecan duyuyoruz ve bu amaçla ROOST'un teknoloji danışma komitesinin eş başkanlığını da üstleneceğiz. Bu, bize öğrendiklerimizi paylaşma ve kuruluşun çalışmalarını ve teknik stratejisini bilgilendirme ve destekleme fırsatı verecektir.

ROOST'un kurucu ortağı olmak, hem kullandığımız hem de paylaştığımız güvenlik tekniklerini geliştirmek için ROOST topluluğunun makine öğrenimi modelleme uzmanlığından yararlanmamızı sağlıyor. Bu heyecan verici bir gelişme çünkü ROOST, Roblox ve diğer çevrimiçi platformlar için hayati öneme sahip üç temel çevrimiçi güvenlik alanında çalışıyor. Bunlar arasında şunlar yer alıyor:

• Daha güçlü çocuk cinsel istismarı materyali (CSAM) sınıflandırıcıları geliştirmek dahil olmak üzere çocuk güvenliğini iyileştirmek
• İnceleme konsolları, sezgisel motorlar gibi daha iyi güvenlik altyapısı oluşturmak ve daha fazla eğitim örneği toplamak ve düzenlemek, istatistiksel örnekleme yapmak, etiketleme yapmak ve insanları bu kullanım durumları konusunda eğitmek 
• Politikaları uygulamak için moderatörleri revize etmek ve eğitmek üzere yapay zekayı kullanan, büyük dil modeli (LLM) destekli içerik koruma önlemleri oluşturmak

ROOST Yönetim Kurulu Başkan Yardımcısı Eli Sugarman, "Roblox gibi çevrimiçi güvenlik alanında küresel bir liderin ROOST'a kurucu ortak olarak katılması bizim için büyük bir fırsat," dedi. "Açık kaynak güvenliğine olan kanıtlanmış bağlılığıyla Roblox, tüm çevrimiçi topluluğu korumaya yardımcı olmak için yenilikçi yaklaşımını paylaşmak için harika bir konumda."

Bu, tüm çevrimiçi topluluk için önemli bir an ve açık kaynak araçları üzerindeki çalışmalarımız bunun önemli bir parçası. Yapay zekanın şeffaflık ve açıklık üzerine kurulması gereken bir teknoloji olduğunu düşünüyoruz ve açık kaynak yapay zeka topluluğunda güçlü bir ortak olmaya kararlıyız.   

Açık Kaynak Topluluğuna Teknoloji Katkısı

ROOST’un kurucu ortağı olmak, açık kaynak topluluğuna teknoloji katkısı sağlama yaklaşımımızla el ele gidiyor. Bu, geçen yıl sesli güvenlik sınıflandırıcı modelimizi açık kaynak olarak yayınladığımızda başladığımız bir yolculuktur. Bu model, günde milyonlarca dakikalık sesli etkinlik ölçeğinde politika ihlallerini insan moderatörlerden daha doğru bir şekilde tespit edebiliyor. O zamandan beri, model yaklaşık 22.000 kez indirildi.

Şu anda, İspanyolca, Almanca, Fransızca, Portekizce, İtalyanca, Korece ve Japonca olmak üzere yedi yeni dili destekleyen ve modeli daha etkili hale getiren yeni teknikler uygulayan bu modelin güncellenmiş bir sürümünü kullanıma sunduk. Bunlar arasında insan etiketlerinin ince ayarını yapmak için bir müfredat eğitim mimarisi, kötüye kullanım başlıklarının genişletilmesi ve daha verimli özellik çıkarma ve zaman azaltma katmanlarının eklenmesi yer alıyor. Yeni model sürümünü 2025'in ilk çeyreğinin sonuna kadar açık kaynak olarak yayınlamayı planlıyoruz. İleriye dönük olarak, bu yılın ilerleyen aylarında diğer modaliteler için sınıflandırma modellerini de açık kaynak olarak yayınlamayı planlıyoruz.

Araçlarımızı açık kaynak olarak sunmak, hem güvenlik çalışmalarımızın bir parçası hem de yaratıcılık açısından kimliğimizin bir parçasıdır. Örneğin geçen yıl, içerik oluşturucuların birçok türde otomatik oluşturma aracını deneyimlerine entegre etmelerine yardımcı olacak 3D Temel Modelimizi tanıttık.

ROOST topluluğunun kurucu ortağı olmaktan büyük heyecan duyuyoruz. Bu alandaki diğer liderlerle işbirliği yapmayı ve interneti daha güvenli bir yer haline getirmek için elimizden gelen her şeyi yapmayı hedefliyoruz.