Tại sao việc trở thành đối tác sáng lập của một sáng kiến mã nguồn mở mới lại là chìa khóa cho phương pháp tiếp cận của chúng tôi về an toàn trực tuyến
- Trí tuệ nhân tạo (AI) đã trở thành nền tảng trong cách chúng tôi tiếp cận vấn đề an toàn tại Roblox, và chúng tôi áp dụng các mô hình của mình vào các hình thức giao tiếp bằng văn bản và giọng nói, hình ảnh, cũng như các mô hình 3D và lưới 3D.
- Việc thúc đẩy an toàn cho người dùng, đặc biệt là những người dùng nhỏ tuổi nhất, luôn là ưu tiên hàng đầu của chúng tôi, và đó là lý do tại sao chúng tôi tiếp tục đầu tư và cải thiện các hệ thống an toàn của mình.
- Đóng góp cho cộng đồng mã nguồn mở là điều quan trọng đối với chúng tôi. Và chúng tôi đang mở rộng vị thế dẫn đầu trong công nghệ an toàn bằng cách trở thành đối tác sáng lập của ROOST, một tổ chức phi lợi nhuận mới chuyên giải quyết các vấn đề quan trọng trong an toàn kỹ thuật số thông qua việc thúc đẩy các công cụ an toàn mã nguồn mở.
- Chúng tôi cũng đang mở mã nguồn phiên bản mới của mô hình phân loại an toàn giọng nói (một mô hình có 94 triệu tham số xử lý lên đến 400.000 giờ giọng nói hoạt động hàng ngày trên nền tảng của chúng tôi), và chúng tôi dự định phát hành thêm các mô hình AI an toàn mã nguồn mở trong tương lai.
Việc thúc đẩy an toàn và văn minh luôn là nền tảng của Roblox kể từ khi thành lập cách đây gần hai thập kỷ. Thiết kế các hệ thống để đảm bảo an toàn cho mọi người là một nỗ lực lớn, đặc biệt là ở quy mô toàn cầu của chúng tôi và với tất cả các loại nội dung mà chúng tôi hỗ trợ. Đó là lý do tại sao chúng tôi đầu tư mạnh mẽ vào hạ tầng, AI và con người. Với hàng trăm mô hình đang hoạt động, gần như mọi tương tác trên Roblox đều được hỗ trợ một phần nào đó bởi AI.
Trong quý 4 năm 2024, người dùng của chúng tôi đã tải lên hơn 300 tỷ nội dung bao gồm video, âm thanh, văn bản, trò chuyện giọng nói, avatar và trải nghiệm 3D. Tuy nhiên, chỉ 0,01% trong số đó bị phát hiện vi phạm chính sách của chúng tôi, và phần lớn trong số đó không được người dùng nhìn thấy vì đã được kiểm duyệt chủ động. Chúng tôi cũng đã phát triển các mô hình AI hiệu suất cao cơ bản để đảm bảo an toàn cho toàn bộ nội dung và các hình thức giao tiếp trên nền tảng. Các mô hình này xử lý hơn 4 tỷ tin nhắn văn bản mỗi ngày với độ trễ chỉ vài mili giây, cùng hàng triệu giờ ghi âm và nội dung. Chúng tôi cam kết phát hiện nội dung độc hại và đưa ra quyết định kiểm duyệt trên quy mô lớn.
An toàn là vấn đề vượt ra ngoài phạm vi của Roblox. Mặc dù chúng tôi có thể giúp bảo vệ người dùng khi họ ở trên nền tảng của chúng tôi, nhưng chúng tôi có quyền hạn hạn chế khi họ không ở trên Roblox. Thực tế, các công ty internet trên toàn thế giới đều phải đối mặt với những thách thức này khi người dùng di chuyển từ nền tảng này sang nền tảng khác. Vì vậy, trong nhiều năm qua, chúng tôi đã đóng vai trò tiên phong trong việc thúc đẩy các thực hành an toàn và văn minh trực tuyến bằng cách tham gia các tổ chức như Viện An toàn Trực tuyến Gia đình (Family Online Safety Institute) và Liên minh Công nghệ (Tech Coalition).
Hiện nay, chúng tôi tự hào mở rộng vị thế dẫn đầu trong lĩnh vực an toàn trực tuyến bằng cách trở thành đối tác sáng lập – cùng với Google, OpenAI, Discord và các tổ chức khác – của ROOST (Robust Open Online Safety Tools). Tổ chức phi lợi nhuận mới này cam kết giải quyết các vấn đề quan trọng trong an toàn kỹ thuật số – đặc biệt là an toàn cho trẻ em trực tuyến – bằng cách phát triển các công cụ an toàn có khả năng mở rộng, tương thích và bền vững, phù hợp với kỷ nguyên trí tuệ nhân tạo (AI).
ROOST sẽ phát triển, duy trì và phân phối các tài nguyên an toàn mã nguồn mở miễn phí mà các tổ chức công và tư nhân ở mọi quy mô – nhiều trong số đó thiếu truy cập vào công nghệ an toàn cơ bản – có thể sử dụng để nâng cao hệ thống bảo vệ người dùng của họ. Điều này sẽ giúp họ tập trung nhiều hơn vào việc phát triển kinh doanh.
Chúng tôi rất hào hứng được góp phần củng cố an toàn trên toàn mạng internet, và vì vậy, chúng tôi cũng sẽ là đồng chủ tịch của Ủy ban Cố vấn Công nghệ của ROOST. Điều này sẽ mang lại cho chúng tôi cơ hội chia sẻ những gì chúng tôi đã học được, đồng thời định hướng và hỗ trợ công việc cũng như chiến lược kỹ thuật của tổ chức.
Việc trở thành đối tác sáng lập của ROOST cho phép chúng tôi dựa vào chuyên môn về mô hình học máy của cộng đồng ROOST để phát triển các kỹ thuật an toàn mà cả hai bên cùng sử dụng và chia sẻ. Điều này thật thú vị vì ROOST đang làm việc trong ba lĩnh vực cốt lõi về an toàn trực tuyến, vốn có ý nghĩa quan trọng đối với Roblox và các nền tảng trực tuyến khác. Ba lĩnh vực này bao gồm:
- Cải thiện an toàn cho trẻ em, bao gồm phát triển các bộ phân loại tài liệu lạm dụng tình dục trẻ em (CSAM) mạnh mẽ hơn
- Xây dựng cơ sở hạ tầng an toàn tốt hơn, chẳng hạn như bảng điều khiển đánh giá, công cụ heuristic, thu thập và tuyển chọn thêm các ví dụ đào tạo, lấy mẫu thống kê, gắn nhãn và đào tạo con người về các trường hợp sử dụng này
- Tạo ra các biện pháp bảo vệ nội dung dựa trên mô hình ngôn ngữ lớn (LLM) tận dụng AI để chỉnh sửa và đào tạo các điều phối viên thực thi chính sách
“Việc có một nhà lãnh đạo toàn cầu về an toàn trực tuyến như Roblox tham gia ROOST với tư cách là đối tác sáng lập là một cơ hội lớn đối với chúng tôi,” ông Eli Sugarman, Phó Chủ tịch Hội đồng Quản trị ROOST, cho biết. “Với cam kết đã được chứng minh đối với an toàn mã nguồn mở, Roblox đang ở vị thế tuyệt vời để chia sẻ cách tiếp cận sáng tạo của mình nhằm bảo vệ toàn bộ cộng đồng trực tuyến.”
Đây là một cột mốc quan trọng đối với toàn bộ cộng đồng trực tuyến, và công việc của chúng tôi về các công cụ mã nguồn mở là một yếu tố chính trong đó. Chúng tôi cho rằng AI là một công nghệ cần được xây dựng trên nền tảng minh bạch và cởi mở, và chúng tôi cam kết trở thành một đối tác vững mạnh trong cộng đồng AI mã nguồn mở.
Đóng góp công nghệ cho cộng đồng mã nguồn mở
Việc trở thành đối tác sáng lập của ROOST đi đôi với cách tiếp cận của chúng tôi trong việc đóng góp công nghệ cho cộng đồng mã nguồn mở. Đây là hành trình chúng tôi bắt đầu từ năm ngoái khi chúng tôi mã nguồn mở mô hình phân loại an toàn giọng nói của mình, có thể phát hiện vi phạm chính sách chính xác hơn so với các moderator con người trên quy mô hàng triệu phút hoạt động giọng nói mỗi ngày. Kể từ đó, mô hình này đã được tải xuống gần 22.000 lần.
Hiện tại, chúng tôi đã triển khai phiên bản cập nhật của mô hình này, hỗ trợ bảy ngôn ngữ mới—Tiếng Tây Ban Nha, Tiếng Đức, Tiếng Pháp, Tiếng Bồ Đào Nha, Tiếng Ý, Tiếng Hàn và Tiếng Nhật—và áp dụng các kỹ thuật mới giúp mô hình hiệu quả hơn. Các kỹ thuật này bao gồm kiến trúc đào tạo theo lộ trình để tinh chỉnh nhãn do con người đánh giá, mở rộng các trường hợp lạm dụng, và thêm các lớp trích xuất đặc trưng hiệu quả hơn cùng lớp giảm thời gian xử lý. Chúng tôi dự định sẽ mở mã nguồn phiên bản mô hình mới này vào cuối quý 1 năm 2025. Nhìn về tương lai, chúng tôi cũng dự định sẽ mở mã nguồn các mô hình phân loại cho các phương thức khác vào cuối năm nay.
Việc mở mã nguồn các công cụ của chúng tôi là một phần trong bản sắc của chúng tôi, cả trong công tác an toàn lẫn trong lĩnh vực sáng tạo. Ví dụ, năm ngoái, chúng tôi đã ra mắt Mô hình Nền tảng 3D, giúp các nhà sáng tạo tích hợp nhiều loại công cụ tạo tự động vào trải nghiệm của họ.
Chúng tôi rất vui mừng được trở thành đối tác sáng lập của cộng đồng ROOST, và chúng tôi mong muốn hợp tác với các nhà lãnh đạo khác trong lĩnh vực này cũng như đóng góp hết sức mình để biến internet thành một nơi an toàn hơn.
