Ірландія відкриває розслідування щодо X через ймовірну роль Grok у створенні штучним інтелектом сексуалізованих зображень

Регулятор з питань приватності Ірландії розпочав офіційне розслідування щодо X через побоювання, що AI-чатбот Grok від Ілона Маска міг допомогти у створенні та поширенні нелегальних сексуалізованих зображень, зокрема з участю дітей. Це розслідування є значним кроком у зростаючому міжнародному тиску на інструменти «нюфікації» на базі штучного інтелекту та контенту з глибокими фейками.

Розслідування ініційовано Комісією з захисту даних Ірландії (DPC) проти компанії X Internet Unlimited Company (XIUC), юридичної особи, зареєстрованої в ЄС, через яку платформа функціонує в Європі. Воно проводиться відповідно до Закону про захист даних Ірландії 2018 року і має на меті з’ясувати, чи брали участь інструменти генеративного AI Grok у створенні та публікації потенційно шкідливих інтимних зображень без згоди.

Як головний наглядовий орган для X у Європейському Союзі та Європейській економічній зоні, DPC оцінить відповідність ключовим положенням Загального регламенту захисту даних (GDPR). Це включає перевірку дотримання компанією принципів законної обробки даних, стандартів приватності за замовчуванням та необхідності проведення оцінки впливу на захист даних перед впровадженням таких можливостей AI.

Центр протидії цифровому ненависті (CCDH) повідомив, що Grok за 11 днів між наприкінці грудня та початком січня створив понад 23 000 сексуалізованих зображень із участю дітей. Дослідники виявили, що приблизно третина вибраних зразків залишалася доступною на платформі, незважаючи на заяви X про нульову толерантність до такого контенту. Після громадського обурення X обмежив функції генерації зображень для платних підписників, запровадив технічні заходи для запобігання маніпуляціям з одягом на зображеннях і заблокував інструмент у юрисдикціях, де такий контент є нелегальним.

Глобальний регуляторний тиск посилюється

Дії Ірландії додаються до зростаючого міжнародного контролю. У січні Європейська комісія відкрила офіційне розслідування відповідно до Діяльності цифрових послуг щодо можливої ролі X у створенні та поширенні нелегального контенту, пов’язаного з Grok. Незабаром після цього французькі влади провели обшук у офісах X у Парижі у співпраці з Європолом у рамках кримінального розслідування.

У Великій Британії Ofcom та Офіс уповноваженого з питань інформації почали окремі розслідування щодо платформи. Прем’єр-міністр Кір Стармер натякнув, що можливо буде запитано нові парламентські повноваження для більш прямого регулювання провайдерів AI-чатботів відповідно до законів про онлайн-безпеку. Регулятори попереджають, що недотримання вимог може призвести до судових заходів, включаючи потенційні обмеження у роботі.

В Австралії Комісар з безпеки в інтернеті повідомив про різке зростання скарг на нелегальні AI-генеровані сексуальні зображення, пов’язані з Grok. Тим часом генеральний прокурор Каліфорнії Роб Бонта оголосив про офіційне розслідування щодо xAI та його чатбота через створення та поширення явних AI-згенерованих зображень із участю жінок і дітей.

Міжнародні організації також підвищують тривогу. UNICEF нещодавно описав AI-згенеровані сексуальні дипфейки як «глибоку ескалацію» ризиків для дітей у цифровому середовищі, наводячи оцінки, що щонайменше 1,2 мільйона дітей були ціллю минулого року. Агентство закликало уряди криміналізувати матеріали з насильницьким змістом, створені за допомогою AI, та запровадити заходи безпеки за принципом «зроблено з урахуванням безпеки» у системах генеративного AI.

У міру розширення розслідувань у різних юрисдикціях справа проти X і Grok підкреслює ширший регуляторний зсув. Уряди все більше переходять від реактивного застосування законів до проактивного нагляду за системами генеративного AI, особливо там, де йдеться про захист дітей і права на приватність.