這個廣受歡迎的線上遊戲平台 Roblox，宣布將在其聊天過濾器偵測到不當用語時，用 AI 重新表述被標記的訊息，而不是用一串井號取代，該公司於週四宣布此消息。
這個功能稱為即時聊天重述，會修改訊息中的不當用語，使對話保持可讀性，而不是顯示為被封鎖的文字。
“例如，違反 Roblox 不當用語政策的訊息，如‘Hurry TF up!’，之前會顯示為‘####’在體驗聊天中，”公司表示。“現在會被重新表述為‘Hurry up!’”
根據 Roblox 副總裁 Rajiv Bhatia 的說法，這個新設計旨在通過重新措辭來維持文明，並用實際的詞語取代“停止標誌”。
“聊天是人們在 Roblox 上連結、協調和遊玩的核心方式，”Bhatia 在聲明中表示。“即時重述有助於保持遊戲和對話的正常進行，同時引導語言朝著適當的方向發展。”
在2025年5月，Roblox 引入了即時警告，提醒用戶訊息可能違反平台規則，並鼓勵他們重新考慮用詞。
“去年在實驗中，Roblox 發現發送體驗內文字聊天通知和暫時封鎖，導致被過濾的聊天訊息減少了5%，濫用報告的後果也減少了6%，”公司表示。
儘管有這個下降，Roblox 表示這個新變革解決了一個長期存在的問題，即過濾後的語言會以一串隨機字符出現，這會讓遊戲中的聊天變得難以理解。
當文字被重新表述時，玩家會收到通知，但公司表示新系統並不會改變其對不當用語的執法政策。
“澄清一下，當我們重新表述一條違反我們不當用語政策的訊息時，這仍然是違規行為，規則依然適用，”Bhatia 在週四的另一份聲明中說。“如果用戶持續在聊天中咒罵，仍會面臨相同的後果，因為他們反覆違反我們的政策。”
Roblox 表示，這個重述功能僅在年齡驗證過的用戶之間的聊天中提供，並支持目前通過 Roblox 自動翻譯工具提供的所有語言。為了了解青少年玩家在遊玩時的語言習慣，Roblox 表示這個新重述功能是與其青少年理事會成員合作開發的。
公司也在升級其文字過濾系統，以更好地偵測試圖規避審查規則的行為，包括用數字或符號代替字母的變體語言，稱為leet speak。
Roblox 的聊天重述是遊戲產業中一個日益增長的趨勢，越來越多的公司使用 AI 來管理多人遊戲中的玩家行為。2024年，動視宣布在多款《使命召喚》遊戲中部署其 AI 驅動的 ToxMod 審查系統後，超過200萬帳號被標記為有破壞性聊天。該公司表示，這個工具幫助減少重複違規者，並降低嚴重的破壞性語音聊天事件。
Roblox 也在平台上擴展了 AI 的應用。2024年2月，公司推出了即時 AI 聊天翻譯功能，讓玩家能在 Roblox 聊天中跨越超過16種語言進行交流。
“這是一個大膽的新方法，我們不一定每次都能完美重述，”Bhatia 談到最新的舉措時說，並補充公司將持續學習和實驗這個功能。“我們的最終目標是讓用戶能以既有趣又尊重的方式合作與聯繫。”
Roblox 尚未立即對 Decrypt 的置評請求做出回應。
