Dlaczego zostanie partnerem-założycielem nowej inicjatywy open source ma kluczowe znaczenie dla naszego podejścia do bezpieczeństwa w Internecie

• Sztuczna inteligencja stała się podstawą naszego podejścia do bezpieczeństwa w Roblox, a nasze modele stosujemy do komunikacji tekstowej i głosowej, obrazów oraz modeli i siatek 3D.
• Promowanie bezpieczeństwa użytkowników, zwłaszcza tych najmłodszych, zawsze było naszym priorytetem, dlatego nieustannie inwestujemy w nasze systemy bezpieczeństwa i je ulepszamy. 
• Wkład w społeczność open source jest dla nas ważny. Rozszerzamy naszą pozycję lidera w dziedzinie technologii bezpieczeństwa, stając się partnerem-założycielem ROOST, nowej organizacji non-profit zajmującej się ważnymi obszarami bezpieczeństwa cyfrowego poprzez promowanie narzędzi bezpieczeństwa typu open source.
• Udostępniamy również na licencji open source nową wersję naszego modelu klasyfikatora bezpieczeństwa głosowego (model o 94 milionach parametrów, przetwarzający codziennie do 400 000 godzin aktywnej mowy na naszej platformie) i planujemy w przyszłości udostępnić dodatkowe modele AI bezpieczeństwa na licencji open source.

Promowanie bezpieczeństwa i kultury osobistej ma fundamentalne znaczenie dla Roblox od momentu naszego powstania prawie dwie dekady temu. Projektowanie systemów promujących bezpieczeństwo dla wszystkich to ogromne wyzwanie, zwłaszcza w naszej globalnej skali i przy tak różnorodnych rodzajach treści, które obsługujemy. Dlatego intensywnie inwestujemy w infrastrukturę, sztuczną inteligencję i ludzi. Dzięki setkom modeli w użyciu niemal każda interakcja w Roblox jest w jakiś sposób wspierana przez sztuczną inteligencję.

W czwartym kwartale 2024 roku nasi użytkownicy przesłali ponad 300 miliardów elementów treści, obejmujących wideo, audio, tekst, czat głosowy, awatary i doświadczenia 3D. Jednak tylko 0,01% tych treści zostało wykrytych jako naruszające nasze zasady, a większość z nich nie została zauważona przez użytkowników, ponieważ została proaktywnie moderowana. Opracowaliśmy również podstawową, wysokowydajną sztuczną inteligencję, aby zapewnić bezpieczeństwo całej gamie naszych treści i form komunikacji. Modele te przetwarzają ponad 4 miliardy wiadomości tekstowych dziennie z opóźnieniem wynoszącym zaledwie milisekundy, a także miliony godzin nagrań głosowych i elementów treści. Jesteśmy zaangażowani w wykrywanie nieodpowiednich treści i podejmowanie decyzji dotyczących moderacji na dużą skalę.

Bezpieczeństwo to coś, co wykracza poza Roblox. Chociaż jesteśmy w stanie chronić naszych użytkowników, gdy korzystają z naszej platformy, mamy ograniczone możliwości, gdy nie są na Roblox. Rzeczywiście, firmy internetowe na całym świecie stają przed tymi wyzwaniami, gdy ich użytkownicy przechodzą z platformy na platformę. Dlatego przez lata przejęliśmy wiodącą rolę w promowaniu bezpieczeństwa w sieci i zasad dobrego wychowania, dołączając do organizacji takich jak Family Online Safety Institute i Tech Coalition.

Teraz z dumą rozszerzamy naszą wiodącą pozycję w dziedzinie bezpieczeństwa w sieci, stając się partnerem-założycielem — wraz z Google, OpenAI, Discord i innymi — organizacji ROOST (Robust Open Online Safety Tools). Ta nowa organizacja non-profit zajmuje się ważnymi obszarami bezpieczeństwa cyfrowego — zwłaszcza bezpieczeństwem dzieci w sieci — poprzez tworzenie skalowalnych, interoperacyjnych i odpornych narzędzi bezpieczeństwa dostosowanych do ery sztucznej inteligencji.

ROOST będzie opracowywać, utrzymywać i rozpowszechniać bezpłatne zasoby bezpieczeństwa typu open source, z których organizacje publiczne i prywatne każdej wielkości — z których wiele nie ma dostępu do podstawowych technologii bezpieczeństwa — będą mogły korzystać w celu wzmocnienia swoich systemów zapewniających bezpieczeństwo użytkownikom. Pozwoli im to skupić więcej energii na rozwoju działalności. 

Cieszymy się, że możemy pomóc wzmocnić bezpieczeństwo w Internecie, a w tym celu będziemy również współprzewodniczyć komitetowi doradczemu ds. technologii ROOST. Da nam to możliwość podzielenia się naszą wiedzą oraz wspierania prac i strategii technicznej organizacji.

Zostanie partnerem-założycielem ROOST pozwala nam korzystać z wiedzy społeczności ROOST w zakresie modelowania uczenia maszynowego, aby rozwijać techniki bezpieczeństwa, z których korzystamy i którymi się dzielimy. To ekscytujące, bo ROOST pracuje nad trzema kluczowymi obszarami bezpieczeństwa w sieci, które są kluczowe dla Roblox i innych platform internetowych. Obejmują one:

• Poprawę bezpieczeństwa dzieci, w tym opracowanie skuteczniejszych klasyfikatorów materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM)
• Budowanie lepszej infrastruktury bezpieczeństwa, takiej jak konsole do przeglądania, silniki heurystyczne oraz gromadzenie i selekcjonowanie większej liczby przykładów szkoleniowych, pobieranie próbek statystycznych, oznaczanie i szkolenie ludzi w zakresie tych przypadków użycia 
• Tworzenie zabezpieczeń treści opartych na dużych modelach językowych (LLM), które wykorzystują sztuczną inteligencję do weryfikacji i szkolenia moderatorów w zakresie egzekwowania zasad

„Dołączenie do ROOST jako partnera-założyciela światowego lidera w dziedzinie bezpieczeństwa w sieci, jakim jest Roblox, stanowi dla nas ogromną szansę” – powiedział Eli Sugarman, wiceprzewodniczący zarządu ROOST. „Dzięki swojemu udowodnionemu zaangażowaniu w bezpieczeństwo open source, Roblox ma doskonałą pozycję, by dzielić się swoim innowacyjnym podejściem, które pomoże chronić całą społeczność internetową”.

To ważny moment dla całej społeczności internetowej, a nasza praca nad narzędziami open source jest tego istotnym elementem. Uważamy, że sztuczna inteligencja to technologia, która powinna opierać się na przejrzystości i otwartości, i jesteśmy zdecydowani być silnym partnerem w społeczności open source zajmującej się sztuczną inteligencją.   

Wkład technologiczny w społeczność open source

Bycie partnerem-założycielem ROOST idzie w parze z naszym podejściem do wnoszenia wkładu technologicznego do społeczności open source. Jest to droga, którą rozpoczęliśmy w zeszłym roku, udostępniając na zasadach open source nasz model klasyfikatora bezpieczeństwa głosowego, który potrafi wykrywać naruszenia zasad dokładniej niż ludzcy moderatorzy, analizując miliony minut aktywności głosowej dziennie. Od tego czasu model został pobrany prawie 22 000 razy.

Obecnie mamy w użyciu zaktualizowaną wersję tego modelu, która obsługuje siedem nowych języków — hiszpański, niemiecki, francuski, portugalski, włoski, koreański i japoński — oraz wykorzystuje nowe techniki zwiększające jego skuteczność. Obejmują one architekturę szkoleniową służącą do precyzyjnego dostrajania etykiet przez ludzi, rozszerzenie kategorii nadużyć oraz dodanie bardziej wydajnych warstw ekstrakcji cech i redukcji czasu. Planujemy udostępnić nową wersję modelu na licencji open source do końca pierwszego kwartału 2025 roku. Patrząc w przyszłość, planujemy również udostępnić na licencji open source modele klasyfikacyjne dla innych modalności jeszcze w tym roku.

Udostępnianie naszych narzędzi na licencji open source jest częścią tego, kim jesteśmy, zarówno w zakresie niektórych naszych działań związanych z bezpieczeństwem, jak i tworzenia treści. Na przykład w zeszłym roku zaprezentowaliśmy nasz model podstawowy 3D, który pomoże twórcom zintegrować wiele rodzajów narzędzi do automatycznego generowania treści z ich doświadczeniami.

Cieszymy się, że jesteśmy partnerem-założycielem społeczności ROOST, a naszym celem jest współpraca z innymi liderami w tej dziedzinie i wniesienie jak największego wkładu w uczynienie internetu bezpieczniejszym miejscem.