楽しみ、ゲームプレイ、そして礼節のためのチャットの再考

• チームやコミュニティが一緒に遊ぶゲームでは、自然でスムーズなチャットが不可欠です。 
• 不適切な言葉がブロックされた際に表示される「#####」の連なりは、チャットの流れを妨げ、会話の理解を難しくし、ゲームプレイを中断させる原因となります。
• チャットの円滑な流れと礼儀正しさを維持するため、チャットフィルターを強化し、不適切な表現をガイドラインに準拠した言葉に置き換えるようにしています。
• これは、より自然なチャット体験を実現するために#####を減らすという長期的な取り組みの第一歩です。今後も学習と改善を重ね、ユーザー向けの追加機能を含め、安全で礼儀正しいチャットをサポートするツールを進化させていきます。

毎日、何百万人もの人々がRobloxでつながり、プレイしています。そこでは、ユーザーの自己表現やゲームプレイの調整において、リアルタイムのコミュニケーションが重要です。問題のあるテキスト（ユーザーには#####として表示されます）をブロックするためのAIフィルターの使用は、安全性とマナーの向上に向けた当社の取り組みにおいて、常に中心的な役割を果たしてきました。これらのハッシュマークはリアルタイムで生成され、ユーザーが入力した内容が許可されていない場合を認識する手助けとなります。 もちろん、ユーザーが繰り返しルールに違反した場合、その発言が「###」で表示される以上の措置が講じられます。

2025年5月、当社はユーザーが当社のポリシーを理解できるよう支援するため、予防的なリアルタイム警告を導入しました。これらは現在、テキストチャットとボイスチャットの両方で有効になっています。これらの通知は、ユーザーがルールに違反した際にその旨を伝え、次回は言葉遣いを再考するよう促し、より良いデジタル市民になる手助けをします。 昨年の実験では、アプリ内テキストチャットでの通知や一時利用停止措置を実施した結果、フィルタリングされるチャットメッセージが5%減少し、不正利用報告による措置も6%減少したことが確認されました。

本日、体験内テキストチャットを健全な状態に保つための新機能を追加します。AIを活用してメッセージを自動的に言い換える機能で、まずは不適切な言葉遣いから対応します。これらのシステムが拡大するにつれ、健全なコミュニケーションの好循環が生まれ、リアルタイムのフィードバックを通じてユーザーが当社のコミュニティ基準を学び、遵守するようになるでしょう。 メッセージの送信者だけでなく、すべてのユーザーがRobloxで許可されている表現を確認できるようになります（送信者には許可されていない表現も表示されます）。これにより、ルールを十分に理解していないユーザーへのフィードバックが強化され、フィルタリングやリアルタイム警告という基盤をさらに発展させることで、Roblox上での安全で礼儀正しく、楽しい会話を支援します。 

リアルタイムチャットの表現修正：禁止の「ストップサイン」から「ガイダンス」へ

多くのユーザーにとって、一連の「#####」は会話の行き詰まりとなり、コミュニティ基準に従うために表現をどのように見直すべきかについての指針が得られません。これはしばしば混乱を招き、ゲーム内のチームによる協力を困難にします。 例えば、誰かが友人に「後ろにモンスターがいるぞ！」と警告しようとして、「Watch out! There’s a fkng monster on your ahhh!」と入力したとします。友人の目には「###########」としか表示されません。これではあまり役に立ちません。 

本日より、フィルタリングされたテキストは、Robloxユーザーにとって自然でありつつ、より礼儀正しい言葉に置き換えられます。開始当初、このリアルタイムでの言い換えは主に卑語を対象としています。例えば、「Hurry tf up!」は「Hurry up!」となり、#####よりも元の意図にずっと近い表現になります。 明確にしておきますが、当社の卑猥な言葉に関するポリシーに違反するメッセージを言い換えた場合でも、それは依然として違反であり、同じルールが適用されます。チャットで卑猥な言葉を使い続けようとするユーザーは、ポリシーを繰り返し違反したとして、これまでと同じ処分を受けることになります。 

このシステムを「停止標識」ではなく「ハンドル」のようなものと考えてください。メッセージがポリシーに違反した場合、チャットの参加者全員に、礼儀を保つためにテキストが言い換えられたことが通知されます。制限対象の単語を、ユーザーが日常のチャットで実際に使用するフレーズに置き換えることで、本物の雰囲気や流れを損なうことなく、チャットを敬意あるものに保つことができます。こうした「停止標識」をリアルタイムのガイダンスに置き換えることで、摩擦の一部を軽減しつつ、卑語に対するルールを強化することができます。

テキストがブロックされた際に、言い換えやユーザーへの補足説明を行う機能については、まだ導入初期の段階にあります。他のAI翻訳ツールと同様に、時間の経過とともに、ユーザーの本来のトーンや文脈を保つ精度やニュアンスが向上していくでしょう。私たちの最優先事項は、Roblox上で安全かつ礼儀正しいコミュニケーションを実現することであり、ユーザーが当社の基準を理解する過程において、情報提供、教育、指導を継続的に重視していくことです。 

言い換え機能によりチャットでの混乱は一部軽減されますが、より深刻な行為に対しては、多層的な安全対策システムが引き続き適用されます。言い換え機能は、年齢確認済みのユーザー同士（同年代のグループ内）および「信頼できるつながり」の間でのみ利用可能な「体験内チャット」に限定して提供されます。言い換え機能は、当社の自動翻訳ツールで現在利用可能なすべての言語に対応しています。 私たちの目標は、###を完全に廃止できるまでその使用を減らせるほどの精度を実現し、デジタルコミュニケーションを対面での会話と同じくらい自然で明確なものにすることです。

この機能の開発にあたっては、ティーン・カウンシルのメンバーと協議を重ね、10代の若者が実際にチャットを行う様子を反映したシステムを構築しました。カウンシルメンバーのソフィアは、「リアルタイムの言い換え機能への移行は、会話の流れを保ちつつ、全員の安全を確保するのに役立ちます。これにより、やり取りを穏やかに正しい方向へと導き、誰もが居心地よく感じられるようになります」と語っています。 

ティーン・カウンシルのメンバーであるジョーディンも同意見です。「この変更は、プレイヤーに自分のコミュニケーションの仕方を考えさせるきっかけとなり、友好的なつながりを育むことで交流を強化します」とジョーディンは語りました。「言い換え機能への切り替えにより、プレイヤーの要望と必要な安全基準との間の妥協点を見出すことができるのです。」  

テキストフィルターの改良：パターンから文脈への進化

当社の安全機能は、ユーザーがRobloxでチャットする実際の様子に即した形で、絶えず進化しています。テキストフィルターは、コミュニティ基準に反する内容を検知・ブロックするように学習されています。これは、ユーザーがチャットしている最中に、世界規模かつリアルタイムで行われる必要があります。

当初、このシステムは2つの構成要素から成っていました。1）現実世界の出来事が発生した際、数分以内に当社のルールに違反するコンテンツを検知・ブロックするように設計されたルールベースのシステム。2）大規模なモデルから派生し、シミュレーションおよび実際のサンプルに基づいて学習された一連の特化モデル。これらは、進化する言語のタイプを反映するよう継続的に更新されています。 

これらの特化モデルは、禁止語句のリストを特定するといった特定のタスクには非常に優れていますが、推論能力が低いため、変化し続ける用語を検出するのは苦手です。また、超大規模モデルはリアルタイムでの処理には適しておらず、幻覚（または誤分類）によって誤検知が増加しがちです。 

今回のアップデートでは、テキストフィルタシステムに新たな第3のコンポーネントを導入しました。これにより、特化型モデルがルール違反かどうかを判断できない場合、推論能力が高く、より多くの文脈を評価できる超大規模モデルに処理が委ねられます。これらの大規模モデルは、より複雑な判断を下すことが可能です。 

実験の結果、この複合的なアプローチによりフィルタリング性能が大幅に向上したことが確認されました。これにより、文字を数字や記号に置き換える「リートスピーク」や、フィルタを回避しようとするより巧妙な試みを、より的確に検出できるようになりました。完璧なシステムなど存在しませんが、今回の革新により、ソーシャルメディアのアカウント名や電話番号といった個人情報の共有や勧誘に関する誤検知（false negative）の発生率を20分の1に削減できたことを大変嬉しく思っています。

これは大胆な新しいアプローチであり、表現の言い換えが常に完璧であるとは限りません。しかし、私たちは今後も学びと実験を重ねながら前進し、チャット内でユーザーが目にする「#####」の数を減らし続け、将来的には完全に廃止することを目指します。私たちの究極の目標は、ユーザーが楽しく、かつ互いを尊重し合える形で、協力し、つながれるようにすることです。