Неповнолітні подали позов на xAI в Каліфорнії за нібито створені Grok глибокопідроблені зображення

Коротко

• Три неповнолітні з Теннессі подали позов проти xAI, стверджуючи, що Grok створював дитячу сексуальну порнографію з їхніх реальних фотографій і поширював її онлайн, завдаючи серйозної шкоди.
• У позові йдеться, що xAI навмисно випустила Grok без заходів безпеки і отримувала прибуток від його неправильного використання, називаючи це «бізнес-можливістю».
• В умовах глобальних розслідувань, ймовірні жертви вимагають 150 000 доларів за кожне порушення, а також компенсацію збитків і заборону.

Три неповнолітні з Теннессі подали колективний позов проти Elon Musk’s xAI у федеральному суді, стверджуючи, що Grok створював дитячу сексуальну порнографію з їхніх реальних фотографій і що компанія навмисно розробила свій чат-бот без стандартних галузевих заходів безпеки, а потім отримувала прибуток від цього.
Позов, поданий у понеділок у Північному окрузі Каліфорнії, стверджує, що Grok використовувався для створення та поширення AI-згенерованих дитячих сексуальних матеріалів (CSAM) із їхніх реальних зображень.
Неповнолітні, яких ідентифікували як Jane Doe 1, 2 і 3, заявили, що змінений контент поширювався на платформах, таких як Discord, Telegram і файлообмінні сайти, спричиняючи тривалу емоційну травму та шкоду репутації.

 «xAI — і його засновник Elon Musk — побачили бізнес-можливість: можливість отримати прибуток від сексуального хижацтва реальних людей, включаючи дітей», — йдеться у позові. «Знаючи про тип шкідливого, нелегального контенту, який міг і буде створений, xAI випустила Grok — генеративну модель штучного інтелекту з можливостями створення зображень і відео, яка відповідала на запити і створювала сексуальний контент із реальним зображенням або відео людини.»
Зазначені жертви описують інциденти між серединою 2025 і початком 2026 року, коли їхні реальні фотографії були змінені на відверті зображення і поширювалися онлайн.
В одному випадку, одна з жертв була попереджена анонімним користувачем, який знайшов папки з AI-згенерованим контентом, що обмінювався серед сотень користувачів.

Вони стверджують, що зловмисник отримав доступ до Grok через сторонній додаток, який ліцензував технологію xAI, що, за словами позову, компанія навмисно використовувала, щоб уникнути відповідальності, продовжуючи отримувати прибуток від базової моделі.
У розпал громадського обурення в січні Musk написав у X, що він «не знає про будь-які оголені зображення неповнолітніх», додавши, що «при запиті на створення зображень він відмовляється створювати щось незаконне».
Згідно з висновками Центру протидії цифровій ненависті, наведені у позові, Grok створив приблизно 23 338 сексуалізованих зображень дітей з 29 грудня 2025 року по 9 січня цього року, приблизно одне кожні 41 секунду.
Зазначені жертви вимагають компенсацію не менше 150 000 доларів за кожне порушення відповідно до Закону Маші, а також повернення доходів, штрафних санкцій, гонорарів адвокатів і постійної заборони, а також відшкодування прибутків відповідно до Закону Каліфорнії про несправедливу конкуренцію.
Накопичення позовів
Цей позов є одним із перших, що прямо покладає відповідальність на компанію штучного інтелекту за ймовірне виробництво і поширення AI-згенерованого CSAM із ідентифікованими неповнолітніми, і він з’являється на тлі одночасних розслідувань у США, ЄС, Великобританії, Франції, Ірландії та Австралії.
«Коли систему навмисно створюють для маніпулювання реальними зображеннями з метою створення сексуалізованого контенту, наслідки не є випадковими — це передбачуваний результат», — сказав Decrypt партнер IGNOS Law Alliance Алекс Чандра.
Чандра зазначив, що суди можуть не прийняти простий захист платформи, зазначаючи, що генеративна система AI може розглядатися як «платформа з точки зору взаємодії користувача», але «оцінюватися як продукт» при оцінці заходів безпеки, і для випадків CSAM застосовуватиметься «особливо строгий контроль» через підвищені обов’язки щодо захисту дітей.
Він також додав, що суди, ймовірно, зосередяться на заходах безпеки, і компанія може бути зобов’язана показати «оцінки ризиків і заходи безпеки за проектом перед запуском», а також активні засоби запобігання шкідливим результатам.

Decrypt звернувся до Musk через xAI і SpaceX для коментарів.