Grok підозрюється у сексуальному зловживанні, 9 регіонів стежать за цим! Великобританія розпочинає розслідування, за порушення можуть бути величезні штрафи
Маскова компанія Grok через підозру у створенні зображень сексуальної експлуатації неповнолітніх потрапила під увагу регуляторних органів у 9 великих регіонах, зокрема у Великій Британії та Австралії. Якщо розслідування виявить порушення закону, максимальний штраф може сягнути 18 мільйонів фунтів стерлінгів або бути спрямованим на примусове блокування через суд.
Велика Британія розслідує Grok за підозрою у сексуальній експлуатації неповнолітніх, у разі порушення — штраф до 1800 мільйонів фунтів стерлінгів
AI-чатбот Grok, що належить Маску, нещодавно отримав функцію швидкого редагування реалістичних зображень через платформу X, але був викритий у масовому зловживанні для створення глибоких підробок (Deepfake) порнографічних зображень, у тому числі з участю дітей та підлітків.
Нещодавно Великобританія та Австралія офіційно почали розслідування або попередили X щодо можливих порушень. У разі серйозних порушень платформа може бути оштрафована або заблокована.
Агентство зв’язку Великої Британії (Ofcom) вже проводить розслідування щодо контенту сексуальної експлуатації неповнолітніх (CSAM) та порушень з використанням Deepfake без згоди.
Якщо розслідування підтвердить порушення з боку X, максимальний штраф у Великій Британії може сягнути 1,8 мільярда фунтів або 10% глобального доходу компанії. У разі відмови виконати вимоги, Ofcom може звернутися до суду з метою примусового блокування X у Великій Британії.
Зображення: Ofcom — Агентство зв’язку Великої Британії (Ofcom) вже розпочало розслідування щодо X та Grok за підозрою у сексуальній експлуатації неповнолітніх (CSAM) та неузгодженого Deepfake порнографічного контенту.
Австралійське бюро кібербезпеки (eSafety) отримало кілька повідомлень про згенеровані Grok зображення з ознаками експлуатації, хоча їх кількість невелика, але з тенденцією до зростання. Вони вже вимагають від X надати додаткову інформацію щодо заходів запобігання зловживанням.
eSafety попереджає, що у разі порушень вони застосують свої повноваження для видалення контенту, а з 9 березня 2026 року нові правила в Австралії набудуть чинності, посилюючи обмеження для AI-сервісів щодо доступу дітей до порнографії та насильства.
Зображення: eSafety — Австралійське бюро кібербезпеки (eSafety) вимагає від X надати додаткову інформацію щодо заходів запобігання зловживанням.
Громадськість та регулятори пильно стежать за скандалом навколо Grok, блокування та розслідування у різних країнах
За даними «Euro News» та попередніх повідомлень, включаючи Великобританію та Австралію, зараз у 9 країнах і регіонах вжито заходів щодо Grok (можна перегортати таблицю для деталей):
| Країни та регіони, що стосуються скандалу Grok | |
|---|---|
| Велика Британія | Розпочато розслідування для оцінки законності X та розробки великих штрафів. |
| Австралія | Вимагає від X пояснень щодо заходів безпеки або видає повідомлення про видалення контенту відповідно до закону. |
| Індонезія | Тимчасово заблокувала Grok, вважаючи це превентивною мірою для захисту громадян від небажаного порнографічного контенту. |
| Малайзія | Тимчасово заблокувала Grok через нездатність платформи вирішити внутрішні ризики, пов’язані з дизайном. |
| ЄС | Вимагає зберігати всі документи, пов’язані з Grok, до кінця року для оцінки відповідності регулюванням ЄС. |
| Франція | Розширює існуюче розслідування щодо X на Grok, зосереджуючись на звинуваченнях у створенні зображень неповнолітніх. |
| Італія | Критика використання AI для «роздягання» може серйозно порушувати права людини, і країна співпрацює з ірландськими регуляторами, де знаходиться європейська штаб-квартира X. |
| Німеччина | Не може допустити масштабних системних порушень і планує запровадити конкретні законодавчі ініціативи щодо цифрової насильства. |
| Індія | Надіслала листа X із звинуваченнями у неспроможності запобігти зловживанням Grok для створення та поширення непристойного контенту. |
Grok — платформа з платним доступом та можливістю постійного блокування
У відповідь на регуляторний тиск платформа X та команда xAI заявили, що у Малайзії X повідомила, що Grok здебільшого залежить від користувачів, які повідомляють про зловживання. Щоб зменшити напругу, X планує активізувати заходи.
Раніше X наголошував, що буде діяти проти незаконного контенту, такого як CSAM, включаючи постійне блокування відповідних акаунтів і співпрацю з урядами та правоохоронними органами.
Зображення: X — Платформа X раніше заявляла, що вживатиме заходів щодо незаконного контенту, зокрема CSAM.
Крім того, нещодавно X посилив вимоги до використання Grok для редагування зображень, додавши необхідність бути підписаним користувачем (з синьою галочкою) для доступу до цієї функції.
Деякі критики висловлюють побоювання, що X може почати стягувати плату з користувачів Grok, схоже на випадки Meta, де шахрайські оголошення мають низький рівень ризику (менше 95%), але все ж можуть бути шахрайськими. Інші вважають, що навіть якщо повністю уникнути зловживань неможливо, наявність обмежень краще, ніж їх відсутність.