Roblox тепер використовує штучний інтелект для миттєвого переписування матюків і образливих слів у чаті

Коротко

• Новий функціонал Roblox на основі штучного інтелекту переписує нецензурні слова у чаті замість заміни повідомлень на «####».
• Система спрямована на збереження читабельності розмов під час гри та дотримання стандартів спільноти Roblox.
• Компанія також оновлює фільтри чату для виявлення нецензурної лексики та спроб отримати особисту інформацію гравців.

Масово популярна онлайн-платформа для ігор Roblox оголосила у четвер, що замість рядків із хештегів, які з’являються, коли фільтри чату виявляють нецензурну лексику, тепер використовуються перефразовані штучним інтелектом повідомлення.

Ця функція, під назвою «переписування чату в реальному часі», змінює нецензурні слова у повідомленнях, щоб зберегти читабельність розмов, замість того, щоб вони виглядали як заблокований текст.

«Наприклад, повідомлення, яке порушує політику Roblox щодо нецензурної лексики, таке як «Hurry TF up!», раніше з’являлося як «####» у чаті досвіду», — повідомила компанія. «Тепер його буде перефразовано як «Hurry up!»».

За словами віце-президента Roblox з продуктів для користувачів і відкриття, Раджива Бхатія, новий дизайн спрямований на підтримку ввічливості шляхом перефразування мови та заміни «зупинних знаків» на справжні слова.

«Чат є центральним засобом для спілкування, координації та гри на Roblox», — сказав Бхатія у заяві. «Переписування в реальному часі допомагає тримати гру та розмови у межах та сприяє використанню доречної мови».

У травні 2025 року Roblox запровадив попередження в реальному часі, які сповіщають користувачів про можливі порушення правил платформи та заохочують їх переглянути формулювання.

«У експериментах минулого року Roblox зафіксував, що повідомлення у чаті та тимчасові обмеження зменшили кількість фільтрованих повідомлень на 5% і кількість випадків порушень — на 6%», — повідомила компанія.

Незважаючи на зменшення, Roblox зазначає, що нові зміни вирішують давню проблему, коли фільтрована мова з’являється у вигляді випадкових символів, що ускладнює слідкування за чатами під час гри.

Користувачі отримують повідомлення, коли текст перефразовано, але компанія запевняє, що нова система не змінює політику щодо нецензурної лексики.

«Щоб бути ясним, коли ми перефразовуємо повідомлення, що порушують нашу політику щодо нецензурної лексики, це все ще є порушенням, і застосовуються ті самі правила», — сказав Бхатія у окремій заяві у четвер. «Користувач, який продовжує матюкатися у чаті, все одно зазнає тих самих наслідків за повторне порушення нашої політики».

Функція переписування доступна лише у чатах між користувачами, які пройшли верифікацію віку, та підтримує всі мови, доступні через автоматичний переклад Roblox. Щоб краще зрозуміти, як спілкуються підлітки під час гри, Roblox повідомив, що ця функція була розроблена у співпраці з членами свого Підліткового ради.

Компанія також оновлює систему фільтрації тексту для кращого виявлення спроб обійти модераційні правила, включаючи варіації мови, що замінюють літери цифрами або символами, відомі як літспік.

Переписування у чаті Roblox є частиною зростаючої тенденції у геймінговій індустрії, коли компанії все частіше використовують штучний інтелект для модерації поведінки гравців у багатокористувацьких іграх. У 2024 році Activision повідомила, що понад 2 мільйони акаунтів були позначені за порушення правил через деструктивний чат після впровадження системи модерації ToxMod на основі штучного інтелекту у кількох іграх серії Call of Duty. Компанія зазначила, що цей інструмент допоміг зменшити кількість повторних порушників і знизити кількість серйозних випадків руйнівного голосового чату.

Roblox також розширила використання штучного інтелекту на платформі. У лютому 2024 року компанія запровадила функцію реального часу перекладу чатів, що дозволяє гравцям спілкуватися більш ніж на 16 мовах у чаті Roblox.

«Це сміливий новий підхід, і ми не завжди зможемо перефразувати все ідеально», — сказав Бхатія щодо останнього кроку, додавши, що компанія продовжить вчитися та експериментувати з цією функцією. «Наша кінцева мета — дати користувачам можливість співпрацювати та спілкуватися у спосіб, що є і веселим, і поважним».

Roblox не одразу відповів на запит про коментар від Decrypt.