안전 현황: 12월

현실 세계와 마찬가지로, 우리는 10대 후반 청소년들 간의 대화가 성인에게는 부적절할 수 있으며, 그 반대의 경우도 마찬가지라고 생각합니다. 따라서 연령 확인 기능 도입과 함께, 성인과 미성년자 간의 소통도 제한하고 있습니다. 저희는 아동 발달 전문가들과 협력하여 로블록스 내에서 서로 대화할 수 있는 상식적인 연령대를 정의했습니다.

영국 국가범죄청(NCA)은 FBI, 호주 연방경찰, 뉴질랜드 경찰이 참여하는 법 집행 기구의 의장직을 맡고 있습니다. 해당 기관의 대변인은 “견고하고 매우 효과적인 연령 확인 기술은 아동 사용자의 온라인 안전을 유지하는 데 결정적인 역할을 하며, 이들이 연령에 적합한 디지털 리터러시 기술을 습득하는 동안 유해하고 불법적인 콘텐츠 및 고위험 상호작용으로부터 그들을 보호하는 데 도움을 줍니다.”라고 말했습니다. 

모든 대형 온라인 플랫폼에 어린 이용자가 존재한다는 사실은 널리 알려져 있지만, 로블록스는 이러한 사실을 인정하고 전 연령대를 아우르는 안전 접근 방식을 취한다는 점에서 독보적입니다. 당사는 사용자 간 통신을 암호화하지 않으며, 심각한 피해 징후가 있는지 모든 활동을 모니터링하고, 채팅에서 이미지나 동영상 공유를 허용하지 않으며, 잠재적 문제가 발견되면 즉시 법 집행 기관에 신고합니다. 

안전을 위한 다층적 접근 방식

자동차 제조사가 운전자의 안전을 위해 안전벨트에만 의존하지 않는 것처럼, 로블록스도 안전에 있어 다층적 접근 방식을 채택하고 있습니다. 현대 자동차에는 운전자의 안전을 지키기 위해 함께 작동하는 다양한 요소(에어백, 센서 등)가 있습니다. 로블록스의 연령 확인 시스템은 사용자가 직접 신고하는 연령을 기준으로 하는 업계 표준에 비해 상당한 개선을 이루었지만, 이는 저희의 전반적인 안전 접근 방식에서 단지 한 층에 불과합니다. 이러한 새로운 기술 외에도, 우리는 다른 대부분의 플랫폼보다 의도적으로 더 엄격한 정책과 커뮤니티 기준을 유지하고 있습니다. 우리는 욕설이나, '신뢰할 수 있는 연결(Trusted Connections)' 관계가 아닌 사용자 간의 이미지 공유, 개인 식별 정보 공유를 허용하지 않습니다. 18세 미만 사용자의 경우, 마약이나 알코올을 묘사하는 콘텐츠를 허용하지 않습니다. 

고급 AI 모델이 매일 로블록스에 추가되는 수십억 건의 콘텐츠를 모니터링하며, 커뮤니티 기준을 위반하는 콘텐츠를 차단하거나 삭제합니다. AI는 이 과정의 한 단계일 뿐임을 잘 알고 있기에, 수천 명의 안전 전문가들이 이 모델을 뒷받침하고 있습니다. 또한 부모 옹호 및 정신 건강 단체, 법 집행 기관, 정부 관계자들과 긴밀히 협력하여 모범 사례, 최신 정책 및 지침, 그리고 부모와 사용자가 우리에게 기대하는 바에 대한 새로운 연구 결과를 공유하고 있습니다.  

저희의 목표는 사용자가 문제성 콘텐츠를 보거나 상호작용하기 전에 이를 사전에 차단하는 것입니다. 완벽한 시스템은 없다는 점을 인지하고 있으므로, 사용자가 발견한 모든 내용을 쉽게 신고할 수 있도록 하고 있습니다. 이러한 신고는 부적절한 콘텐츠를 삭제하는 데 도움이 될 뿐만 아니라, 시스템을 훈련하고 강화하는 데에도 기여합니다. 저희는 연령 확인이 정교한 안전 생태계의 중요한 새로운 구성 요소가 될 것이라고 믿습니다.  

연령 확인 기능은 모든 사용자에게 연령에 적합한 경험과 소통 환경을 제공하는 데 도움이 되지만, 여전히 개선해야 할 부분이 많다는 점을 잘 알고 있습니다. 우리는 새로운 기술이 등장함에 따라 전체 시스템을 지속적으로 최적화하고 기능을 강화해 나가고 있습니다. 올해만 해도 145건 이상의 안전 개선 사항을 출시했으며, 앞으로도 더 많은 개선이 이어질 예정입니다.