安全スナップショット：12月

現実世界と同様に、10代後半の若者同士の会話は大人には不適切であり、その逆もまた然りであると考えています。そのため、年齢確認機能の導入に伴い、大人と未成年者の間のコミュニケーションも制限することとしました。私たちは、Roblox上で互いにチャットできる年齢層を常識的に定義するため、児童発達の専門家と提携しています。

英国国家犯罪対策庁（NCA）は、FBI、オーストラリア連邦警察、ニュージーランド警察などが参加する法執行機関グループの議長を務めています。同庁の広報担当者は次のように述べています。「堅牢かつ極めて効果的な年齢確認技術は、児童ユーザーのオンライン上の安全を維持する上で極めて重要な役割を果たしています。これにより、児童が年齢に応じたデジタルリテラシースキルを身につける過程において、有害・違法なコンテンツやリスクの高い交流から彼らを守ることができるのです。」 

大規模なオンラインプラットフォームには若いユーザーが存在することは広く認識されていますが、Robloxは、この事実を認識し、全年齢を対象とした安全対策を採用している点で独特です。当社はユーザー間の通信を暗号化せず、重大な危害の兆候がないかすべての活動を監視し、チャットでの画像や動画の共有を許可せず、潜在的な問題が検出された場合は速やかに法執行機関に通報しています。 

安全に対する多層的なアプローチ

自動車メーカーがドライバーの安全を守るためにシートベルトだけに頼らないのと同様に、Robloxも安全対策において多層的なアプローチを採用しています。現代の自動車には、ドライバーの安全を守るために連携して機能する多くの要素（エアバッグ、センサーなど）があります。Robloxにおける年齢確認は、自己申告による年齢確認という業界標準に比べて大幅な改善ですが、それは当社の安全対策全体における一つの層に過ぎません。 この新技術に加え、当社は他のほとんどのプラットフォームよりも意図的に厳格なポリシーとコミュニティ基準を維持しています。不適切な言葉の使用や、「信頼できるつながり」ではないユーザー間での画像や個人を特定できる情報の共有は許可していません。18歳未満のユーザーに対しては、薬物やアルコールの描写を許可していません。 

高度なAIモデルが、毎日Robloxに追加される数十億件のコンテンツを監視し、コミュニティ基準に違反するコンテンツをブロックまたは削除しています。AIはこのプロセスの一環に過ぎないことを認識しているため、数千人の安全対策専門家がこれらのモデルをバックアップしています。また、保護者支援団体やメンタルヘルス団体、法執行機関、政府関係者とも緊密に連携し、ベストプラクティス、最新のポリシーやガイドライン、そして保護者やユーザーが当社に何を期待しているかに関する新たな研究について協議しています。  

私たちの目標は、ユーザーが問題のあるコンテンツを目にする前、あるいはそれに関与する前に、それらを捕捉することです。完璧なシステムなど存在しないことを理解しているため、ユーザーが不審な点を発見した際に簡単に報告できる仕組みも整えています。これらの報告は、不適切なコンテンツの削除に役立つだけでなく、システムの学習と強化にも寄与します。年齢確認は、私たちの高度な安全エコシステムにおいて重要な新たな要素になると確信しています。  

年齢確認機能は、すべてのユーザーに年齢に応じた体験やコミュニケーションを提供するために役立ちますが、取り組むべき課題は常に存在します。私たちは、新しい技術が利用可能になるにつれ、システム全体の最適化と機能の拡充を継続的に行っています。今年だけで145件以上の安全機能の強化を実施しており、今後もさらなる改善を予定しています。