科技內幕 - 沉浸式語音通訊的安全解決方案

貴團隊目前面臨的最大技術挑戰是什麼？

我們優先確保為使用者提供安全且正向的體驗。安全與文明始終是我們的首要考量，但即時處理這些問題可能是一項重大的技術挑戰。每當出現問題時，我們希望能夠即時審查並採取行動，但鑑於我們的規模，這相當具有挑戰性。為了有效處理如此龐大的規模，我們需要運用自動化安全系統。

我們關注的另一項技術挑戰，在於內容審查安全措施的準確性。針對政策違規行為並提供即時精準回饋，我們採用兩種審查方法：被動式與主動式審查。在被動式審查方面，我們正開發機器學習（ML）模型，以精準識別各類政策違規行為，其運作方式是回應平台用戶的檢舉。 在主動式方面，我們致力於即時偵測可能違反政策的内容，並引導用戶改善行為。理解語音內容與提升音質是相當複雜的過程。雖然我們已見到進展，但最終目標是建立一個能即時偵測違規行為的高精度模型。

我們採用了哪些創新方法與解決方案來應對這些技術挑戰？

我們開發了一套端到端的機器學習模型，能夠分析音訊資料，並根據政策違規類型（例如：這是否屬於霸凌、粗俗語言等）提供信心水準。此模型顯著提升了我們自動關閉特定檢舉的能力。 當模型展現高度信心，且我們確信其表現優於人類時，我們便會採取行動。在模型上線後的短短數月內，我們便能透過此模型處理幾乎所有英文語音濫用檢舉。這些模型均由我們內部開發，這正是眾多開源技術與我們自身工作協作的成果，共同打造了背後的技術基礎。

即時判斷何為適當內容似乎相當複雜。這究竟是如何運作的？

我們投入大量心力讓系統具備語境感知能力。在採取行動前，我們也會分析長期行為模式，以確保處置的合理性。我們的政策會根據用戶年齡、所在環境（公共空間或私人聊天）以及其他諸多因素進行細微調整。我們正探索促進即時文明交流的新方法，而機器學習正是其中的核心。 我們最近推出了自動推送通知，用以提醒用戶相關政策。我們也正在研究語氣等其他因素，以更深入理解用戶的意圖，並區分諷刺或玩笑等情況。最後，我們也正在建構多語言模型，因為有些人會使用多種語言，甚至在同一句話中切換語言。要實現這些功能，我們必須擁有精準的模型。

目前，我們專注於處理最常見的濫用行為，例如騷擾、歧視和粗俗語言。這些行為佔了濫用舉報的大部分。我們的目標是在這些領域產生顯著影響，並為促進和維持文明的線上對話樹立行業標準。我們對即時應用機器學習的潛力感到興奮，因為這使我們能夠有效地為所有人營造一個安全且文明的體驗。

Roblox 正在解決的挑戰有何獨特之處？我們應優先解決哪些問題？

我們結合空間語音技術的聊天功能，能創造更沉浸式的體驗，模擬現實世界的溝通模式。舉例來說，如果我站在某人的左側，對方就會從左耳聽到我的聲音。我們正在打造與現實世界溝通方式相似的模擬環境，而這正是我們目前最能率先解決的挑戰。

身為一名玩家，我親眼目睹了線上遊戲中許多騷擾與霸凌的現象。由於用戶匿名性及缺乏相應懲處，這往往是個被放任不管的問題。然而，我們為此所面對的技術挑戰，在幾個方面是其他平台所沒有的。在某些遊戲平台上，互動僅限於隊友之間。 Roblox 提供多種在社交環境中互動的方式，更貼近現實生活。隨著機器學習與即時訊號處理技術的進步，我們能夠有效偵測並處理惡意行為，這意味著我們不僅打造出更貼近現實的環境，更讓每個人都能安心地與他人互動與建立連結。 憑藉我們的技術、沉浸式平台，以及致力於向用戶宣導政策理念的承諾，我們得以正面應對這些挑戰。

在進行這項技術工作時，您學到了哪些關鍵經驗？

我覺得自己學到了相當多。我並非機器學習工程師，過去主要在遊戲領域從事前端開發，因此能比以往更深入地理解這些模型的運作原理，對我而言意義重大。我希望我們為促進文明互動所採取的行動，能為網路社群注入長期以來所缺乏的同理心。

最後一個收穫是：一切都取決於你輸入的訓練資料。而要讓資料準確，人類必須就用於分類特定違規行為的標籤達成共識。使用大家都能認同的高品質資料進行訓練至關重要，這確實是個很難解決的問題。 你會開始發現，有些領域機器學習已遠遠領先於其他技術，而有些領域則仍處於早期階段。仍有許多領域正處於機器學習的發展階段，因此清楚認識其當前的局限性至關重要。

貴團隊最認同 Roblox 的哪項核心價值？

「尊重社群」是我們在整個過程中遵循的核心價值。首先，我們必須致力於提升平台上的文明程度並減少政策違規行為，這對整體使用者體驗具有重大影響。 其次，我們必須審慎考量新功能的推出方式。需留意模型中的誤判（例如錯誤標記為濫用行為），避免不當懲處用戶。監控模型表現及其對用戶參與度的影響至關重要。

對於 Roblox 和您的團隊未來的發展方向，最令您感到興奮的是什麼？

我們在改善公開語音通訊方面已取得顯著進展，但仍有許多工作待完成。私密通訊是一個值得探索的領域。 我認為改善私下溝通存在巨大潛力，讓使用者能向摯友表達自我，並在跨體驗或體驗過程中與朋友互動時進行語音通話。我認為也有機會透過更完善的工具來培育這些社群，讓使用者能夠自主組織、加入社群、分享內容及交流想法。

隨著我們持續成長，該如何擴展我們的聊天技術以支援這些不斷擴大的社群？我們目前僅觸及了許多潛在可能性的表面，我認為有機會以前所未有的方式，提升整個產業在線上溝通與協作中的文明程度。憑藉正確的技術與機器學習能力，我們正處於一個獨特的地位，能夠塑造文明線上溝通的未來。