Инновации в области безопасности в Roblox
Оценка возраста по лицу
Проверка возраста помогает нам с самого начала направлять пользователей в среду, соответствующую их возрасту, а также обеспечивает родителям необходимый уровень контроля и доступа к информации о своих детях.
Оценка возраста по лицу — наш самый быстрый метод проверки возраста. Эта технология использует видео в режиме реального времени, чтобы сократить количество ложных результатов проверки возраста. Изображения и видео, используемые для оценки возраста по лицу, удаляются после их безопасной обработки.
Расширенная модерация игр
Все игры на Roblox постоянно проверяются и модерируются на предмет нарушений наших Стандартов сообщества. Мы используем как человеческий, так и искусственный интеллект, чтобы сократить количество нарушений.
Мультимодальная модерация
Традиционные системы модерации на основе искусственного интеллекта оценивают объекты по отдельности и упускают комбинации, которые могут привести к появлению вредоносных изображений или контента. Наша мультимодальная система учитывает контекстные сцены или ситуации.
Раннее выявление угроз
Наша модель с открытым исходным кодом, Roblox Sentinel, помогает нашей команде по обеспечению безопасности определять приоритетность чатов, требующих внимания.
Отчетность в игре
Сообщения игроков играют важную роль в нашей работе по раннему выявлению потенциальных нарушений правил во время игр. Чтобы улучшить оценку этих сообщений, мы внесли изменения в наш инструмент для подачи сообщений в игре.
Фильтры чата и модерация
Чат — одна из тех функций, за которые пользователи любят Roblox. Чтобы сохранить эту функцию и при этом обеспечить максимально безопасное и соответствующее возрасту общение, мы внедрили обновления, которые помогают пользователям избегать взаимодействий, нарушающих правила.
Наши функции безопасности чата доступны только в Roblox. Ведите свои разговоры в Roblox; не переносите переписку с кем-либо на другие сайты, где меры защиты могут быть не столь надежными.
Фильтры
Фильтры чата предназначены для блокировки разговоров, нарушающих правила, в том числе обмена личной информацией.
Мониторинг чата
Все чаты, как внутриигровые, так и прямые, проходят мониторинг на предмет критически опасного содержания. В том числе используется наша модель классификатора безопасности голосового общения v3 с открытым исходным кодом, которая поддерживает 22 новых языка.
Переформулировка чата
Чтобы помочь продолжить общение, наша функция перефразирования сообщений в чате автоматически заменяет нецензурную лексику в сообщениях на более уважительные выражения.
Сводки чатов
Чтобы улучшить игровой опыт, наши сводки чата позволяют пользователям видеть, что говорят другие, даже если они не входят в их возрастную группу. Это позволяет сделать игровой процесс более увлекательным без риска межпоколенческого общения.
Получите больше с помощью ресурсов по цифровой безопасности и благополучию
Наши инновационные функции помогают создавать более безопасную среду с самого начала. Однако онлайн-среда сложна и постоянно меняется. Хотя мы стараемся выявлять большинство злоумышленников, некоторые из них все же могут прорваться. Существуют также способы улучшить благополучие в Интернете и следовать передовым практикам в цифровой сфере.
Мы рекомендуем вести открытый и постоянный диалог со своими детьми о ситуациях, которые могут возникнуть в Интернете, а также о правилах безопасного поведения в цифровой среде.