大型遊戲創作平台《羅布樂思》已經使用機器學習AI技術進行語音聊天審核工作超過一年。由於該平台擁有大量的兒童用戶，公司一直將審核工作視為首要任務。在最近舉行的GDC 2024遊戲開發者大會上，《羅布樂思》公司的高級技術總監Kiran Bhat和語音安全負責人Hannes Heikinheimo透露，儘管AI審核效果顯著，但在某些情況下，人工審核仍然具有不可替代的優勢。

Bhat在演講中指出：“實時監控語音並不容易，因為這不僅需要識別語音內容，還需捕捉說話者的語氣和強度，從而準確判斷某段話是否帶有惡意。”他進一步解釋道，“上下文信息同樣是判斷話語是否冒犯的關鍵因素，這使得問題變得更加複雜。”

為應對這些挑戰，公司採用了將違規內容分為四個主要類別的策略，並發現85%的違規內容都屬於這些類別，且“絕大多數”可以通過50個關鍵詞來捕捉。Bhat表示：“如果能夠涵蓋這些類別的前50個關鍵詞，審核工作就已經非常到位了。”

語音安全負責人Heikinheimo則強調了AI監管所取得的令人矚目的成果：經過一年的運行，該系統已覆蓋31個國家和地區，且每段“活躍聊天時間”的違規舉報數量減少了一半。他提到，AI的一個顯著優勢在於其無情感且不會疲憊，因此在處理“非常明顯的違規情況”時，機器比人類更為高效和穩定。然而，他也承認，在理解意圖和進行判斷方面，“人類仍強於機器”。

Heikinheimo解釋道：“在處理那些可能接近判定邊緣的情況，或在數據稀缺、機器學習系統難以充分訓練的罕見情況下，人類審核員的表現仍然更為出色。”