重新思考聊天功能：兼顾娱乐性、游戏体验与文明交流

• 对于团队或社区共同参与的游戏而言，自然流畅的聊天至关重要。 
• 当不恰当的语言被屏蔽后出现的 ##### 字符串，不仅会打断聊天流程、影响理解，还会干扰游戏体验。
• 为了保持聊天流畅且相互尊重，我们正在增强聊天过滤器，并将粗俗语言替换为符合我们准则的词语。
• 这是我们为减少 ##### 标记、打造更自然聊天体验而迈出的第一步。我们将持续学习、迭代并优化工具，以支持安全文明的聊天环境，包括为用户提供更多控制选项。

每天，数百万用户在 Roblox 上交流和游戏，实时沟通对于用户表达和协调游戏至关重要。使用 AI 过滤器屏蔽问题文本（用户可见为 #####）一直是我们保障安全、提升文明程度的核心策略。这些井号是实时生成的，有助于用户了解自己输入的内容是否被禁止。 当然，当用户屡次违规时，他们将面临比文字被替换为###更严重的后果。

2025年5月，我们推出了主动式实时警告机制，以帮助用户理解我们的政策。该功能现已同时适用于文字和语音聊天。这些通知会在用户违规时发出提示，敦促他们在下次使用更得体的语言，并帮助他们成为更优秀的数字公民。 去年的实验表明，通过应用内文本聊天通知和暂停功能，被过滤的聊天消息减少了5%，因滥用报告引发的处理措施也减少了6%。

今天，我们新增了一项功能，旨在维护应用内文字聊天的文明氛围：我们将利用人工智能自动重写消息内容，首先针对粗俗语言。随着这些系统的扩展，它们将形成一个文明的良性循环，其中实时反馈能帮助用户学习并遵守我们的《社区准则》。 所有用户（而不仅仅是消息发送者）都能看到 Roblox 上允许使用的语言（发送者还能看到不允许的内容）。这为可能不了解规则的用户提供了更多反馈，并基于我们的过滤和实时警告机制，助力在 Roblox 上营造安全、文明且充满乐趣的对话环境。 

实时聊天措辞调整：从“禁止”标识转向“指引”

对许多用户而言，一串 ##### 可能意味着对话的终结，且无法获得如何调整措辞以符合《社区准则》的指引。这往往会引发困惑，并阻碍游戏内团队的协作。 试想有人想提醒朋友身后有怪物，却输入了“小心！你身后有只他妈的怪物啊啊啊！”这样的警告。而朋友看到的只有“###########”。这显然毫无帮助。 

从今天起，被过滤的文本将被转换为更得体的措辞，同时仍能保持对 Roblox 用户而言自然的表达。在初期，这项实时重写功能主要针对粗俗语言。例如，“快点他妈的！”可能会变成“快点！”，这比 ##### 更贴近原意。 需要明确的是，当我们对违反粗口政策的消息进行措辞调整时——这仍然构成违规，原有规则依然适用。若用户在聊天中继续试图使用粗口，仍将因反复违反政策而面临相应后果。 

请将该系统视为方向盘，而非停车标志：若某条消息违反政策，聊天室内的所有用户都会收到通知，告知该文本已被替换以保持文明交流。通过将受限词汇与用户日常聊天中实际使用的短语进行匹配，我们在保持聊天尊重性的同时，不会丧失真实的交流氛围和流畅感。通过用实时引导取代这些“停车标志”，我们可以减少部分摩擦——同时仍能强化我们反对辱骂的规则。

在文本被屏蔽时，我们仍在探索如何为用户提供更丰富的上下文信息并进行措辞调整。随着时间的推移，如同任何人工智能翻译工具一样，它在保留用户原始语气或上下文方面的准确性和细腻度将不断提升。我们的首要任务仍是构建一种安全且文明的Roblox沟通方式，在用户了解我们的标准过程中，始终优先考虑向用户提供信息、进行教育和给予指导。 

虽然改写功能能减轻聊天中的部分干扰，但针对更严重的行为，我们的多层安全系统仍将持续生效。改写功能仅适用于体验内聊天，且仅限于经过年龄验证的、年龄相近的用户及其“可信联系人”之间使用。目前，通过我们的自动翻译工具支持的所有语言均可使用改写功能。 我们的目标是实现足够高的准确率，从而逐步减少“###”的出现，直至完全淘汰该机制，让数字沟通像面对面交谈一样自然清晰。

在开发此功能时，我们征询了青少年委员会成员的意见，旨在构建一个能真实反映青少年聊天习惯的系统。委员会成员索菲亚告诉我们：“转向实时措辞调整既能保持对话的流畅性，又能保障所有人的安全。它能温和地引导互动回归正轨，并让人们感到宾至如归。” 

青少年委员会成员乔丁对此表示赞同。“这种转变能引导玩家反思自己的沟通方式，并通过建立友好的联系来增强互动，”乔丁说道，“改用措辞调整机制，在玩家需求与必要的安全标准之间找到了平衡点。”  

改进的文本过滤器：从模式识别到语境分析

我们的安全功能持续进化，以适应用户在 Roblox 上的聊天习惯。我们的文本过滤器经过训练，能够检测并屏蔽任何违反《社区准则》的内容。这必须在全球范围内实时进行，即在用户聊天时即时生效。

最初，该系统包含两个组成部分：1) 基于规则的系统，旨在当现实世界发生事件时，在数分钟内检测并屏蔽违反规则的内容；2) 一组基于更大模型训练的专用模型，这些模型基于模拟和真实样本，并持续更新以涵盖不断演变的语言类型。 

这些专用模型在特定任务上表现优异，例如识别我们禁止的词汇列表，但它们的推理能力较弱，因此难以识别不断演变的术语。超大规模模型无法实时运行，且“幻觉”（或误分类）往往会增加误报率。 

在本次更新中，我们为文本过滤系统引入了第三个新组件。现在，当专用模型无法确定某内容是否违规时，系统会将其转交至更擅长推理和评估上下文的大型模型。这些大型模型能够做出更复杂的决策。 

实验表明，这种组合方案显著提升了过滤器的效能。如今，过滤器能更有效地识别“黑客语”（即用数字或符号替换字母）以及更复杂的规避尝试。虽然没有系统是完美的，但我们很高兴这项最新创新使我们成功将分享或索取个人信息（如社交账号或电话号码）的漏报率降低了20倍。

这是一项大胆的新尝试，我们未必总能完美地重构表述。但我们将持续学习与实验，不断减少用户在聊天中看到的 ##### 数量，并以彻底淘汰它们为长期目标。我们的终极目标是赋能用户，让他们以既有趣又相互尊重的方式进行协作与交流。