科技内幕 - 沉浸式语音通信中的安全解决方案
Roblox 虚拟形象的演变
与工程高级总监基兰·巴特（Kiran Bhat）、产品高级总监马赫什·拉马苏布拉马尼安（Mahesh Ramasubramanian）以及首席产品经理埃菲·戈纳万（Effie Goenawan）
工程高级总监基兰·巴特（Kiran Bhat）、产品高级总监马赫什·拉马苏布拉马尼安（Mahesh Ramasubramanian）以及首席产品经理埃菲·戈纳万（Effie Goenawan）将与首席执行官大卫·巴祖基（David Baszucki）共同探讨通过虚拟形象实现沉浸式沟通的未来，以及我们为实现这一目标所解决的技术挑战。他们将深入探讨富有表现力的虚拟形象如何不仅让我们能够以数字方式表达自我，还能通过声音、面部表情和肢体语言实现更沉浸式的沟通。
贵团队目前面临的最大技术挑战是什么？
我们优先确保为用户提供安全、积极的体验。安全与文明始终是我们最关注的核心，但实时处理这些问题可能面临巨大的技术挑战。每当出现问题时，我们都希望能够实时审查并采取行动，但鉴于我们的规模，这确实颇具挑战。为了有效应对这种规模，我们需要借助自动化安全系统。
我们关注的另一个技术挑战是内容审核安全措施的准确性。针对政策违规行为并提供实时准确反馈，主要有两种审核方法：被动审核和主动审核。在被动审核方面，我们正在开发机器学习（ML）模型，以准确识别不同类型的政策违规行为，这些模型通过响应平台用户的举报来运作。 在主动管理方面，我们致力于实时检测可能违反政策的内容，并引导用户规范行为。理解语音内容并提升音频质量是一个复杂的过程。虽然我们已取得进展，但最终目标是建立一个高精度的模型，能够实时检测违反政策的行为。
我们采用了哪些创新方法和解决方案来应对这些技术挑战？
我们开发了一个端到端的机器学习模型，该模型能够分析音频数据，并根据违规类型（例如，这是欺凌、辱骂等行为的可能性有多大）提供置信度。该模型显著提升了我们自动处理某些举报的能力。 当模型信心足够且能确信其表现优于人类时，我们便会采取行动。上线仅数月后，我们便能借助该模型审核几乎所有英语语音滥用举报。这些模型均由我们自主研发，这充分证明了众多开源技术与我们自身工作的协作，共同构成了其背后的技术基础。
实时判定何为适当内容似乎相当复杂。这究竟是如何实现的？
我们在让系统具备语境感知能力方面投入了大量心血。采取行动前，我们还会分析长期行为模式，以确保我们的干预具有充分依据。我们的政策会根据用户年龄、所在环境（公共空间或私人聊天）以及其他诸多因素进行细致调整。我们正在探索实时促进文明交流的新方法，而机器学习正是其中的核心。 我们最近推出了自动推送通知，用于提醒用户遵守我们的政策。我们还在研究语调等其他因素，以更好地理解用户的意图，并区分讽刺或玩笑等表达。最后，我们正在构建多语言模型，因为有些人会说多种语言，甚至会在同一句话中切换语言。要实现这一切，我们必须拥有一个精准的模型。
目前，我们正致力于解决最突出的滥用行为，例如骚扰、歧视和粗俗言语。这些行为占滥用举报的大多数。我们的目标是在这些领域产生显著影响，并为促进和维护文明的在线对话树立行业标准。我们对实时应用机器学习的潜力充满期待，因为它能让我们有效地为每个人营造一个安全、文明的体验环境。
Roblox正在解决的挑战有何独特之处？我们首先应解决哪些问题？
我们基于空间语音技术打造的聊天功能，通过模拟现实世界中的沟通方式，创造了更沉浸式的体验。例如，如果我站在某人左侧，对方就会从左耳听到我的声音。我们正在构建一种与现实世界沟通机制相似的虚拟环境，而这正是我们当前最能率先解决的挑战。
作为一名玩家，我目睹了在线游戏中大量骚扰和欺凌行为。由于用户匿名性和缺乏相应后果，这一问题往往得不到有效制止。然而，我们在这一领域所面临的技术挑战，在某些方面与其他平台所面临的挑战截然不同。在某些游戏平台上，互动仅限于队友之间。 Roblox 提供了多种在社交环境中互动的方式，这种环境更贴近现实生活。随着机器学习和实时信号处理技术的进步，我们能够有效检测并处理滥用行为，这意味着我们不仅打造了一个更贴近现实的环境，更营造了一个让每个人都能安心互动、建立联系的空间。 凭借我们的技术、沉浸式平台以及致力于向用户普及政策理念的承诺，我们有能力直面并解决这些挑战。
在从事这项技术工作期间，您有哪些关键收获？
我觉得自己收获颇丰。我并非机器学习工程师，此前主要从事游戏前端开发，因此能够比以往更深入地了解这些模型的工作原理，对我而言意义重大。我希望我们为促进文明互动所采取的措施，能为网络社区注入此前所欠缺的同理心。
最后一个收获是：一切都取决于你输入的训练数据。而要确保数据准确，人类必须就用于分类某些违规行为的标签达成共识。使用大家都能认可的优质数据进行训练至关重要。这确实是一个很难解决的问题。 你会发现，在某些领域，机器学习已远远领先于其他技术；而在另一些领域，它仍处于初级阶段。机器学习仍在许多领域不断发展，因此清楚认识到其当前的局限性至关重要。
贵团队最契合 Roblox 的哪项价值观？
尊重社区是我们整个过程中的核心价值观。首先，我们需要专注于提升平台上的文明程度并减少政策违规行为。这会对整体用户体验产生重大影响。 其次，我们必须审慎规划新功能的推出方式。需警惕模型中的误判（例如错误地将内容标记为滥用），避免对用户造成不必要的处罚。持续监控模型性能及其对用户参与度的影响至关重要。
对于Roblox和您的团队未来的发展方向，最令您兴奋的是什么？
我们在改善公共语音通信方面取得了显著进展，但仍有大量工作待完成。私密通信是一个值得探索的激动人心领域。 我认为优化私密沟通存在巨大机遇，这能让用户向亲密好友表达自我，支持跨体验或体验过程中与好友互动时的语音通话。此外，通过提供更完善的工具，帮助用户自主组织、加入社群、分享内容和交流想法，也有助于培育这些社区。
随着我们持续发展，如何扩展聊天技术以支持这些不断壮大的社区？我们目前所能实现的还只是冰山一角，我认为有机会以前所未有的方式提升整个行业在线沟通与协作的文明程度。凭借合适的技术和机器学习能力，我们正处于一个独特的位置，能够塑造文明在线沟通的未来。
