Ирландия начала расследование в отношении X по поводу предполагаемой роли Grok в создании изображений сексуализированного характера с помощью ИИ

Регулятор по вопросам конфиденциальности Ирландии начал официальное расследование в отношении X из-за опасений, что AI-чатбот Grok, созданный Илоном Маском, мог помочь в создании и распространении несогласованных сексуализированных изображений, включая изображения с участием детей. Расследование является значительным шагом в растущем международном crackdown на инструменты «обнажения» на базе ИИ и контент с глубокими фейками.

Расследование было инициировано Ирландской комиссией по защите данных (DPC) против компании X Internet Unlimited Company (XIUC), юридического лица, зарегистрированного в ЕС, через которое платформа работает в Европе. Расследование проводится в рамках Закона о защите данных Ирландии 2018 года и направлено на выяснение, участвовали ли генеративные AI-инструменты Grok в создании и публикации потенциально вредоносных интимных изображений без согласия.

Будучи основным надзорным органом за X в Европейском союзе и Европейской экономической зоне, DPC оценит соблюдение ключевых положений Общего регламента по защите данных (GDPR). В частности, будет проверено, соблюдала ли компания принципы законной обработки данных, стандарты конфиденциальности по умолчанию и необходимость проведения оценки воздействия на защиту данных перед внедрением таких AI-возможностей.

Центр по противодействию цифровому ненависти (CCDH) сообщил, что Grok за 11 дней между концом декабря и началом января создал более 23 000 сексуализированных изображений с участием детей. Исследователи обнаружили, что примерно треть выбранных изображений оставалась доступной на платформе, несмотря на заявленную нулевую терпимость X к такому контенту. После общественного возмущения X ограничил функции генерации изображений Grok для платных подписчиков, внедрил технические меры для предотвращения манипуляций с одеждой на изображениях и заблокировал инструмент в юрисдикциях, где такой контент запрещен.

Глобальное регулирование усиливается

Действия Ирландии дополняют растущий международный контроль. В январе Европейская комиссия начала официальное расследование в рамках Digital Services Act относительно предполагаемой роли X в создании и распространении нелегального контента, связанного с Grok. Вскоре после этого французские власти провели рейд в офисах X в Париже в сотрудничестве с Европол в рамках уголовного расследования.

В Великобритании и Ofcom, и Office of the Information Commissioner начали отдельные проверки платформы. Премьер-министр Киер Стармер заявил, что могут быть приняты новые парламентские полномочия для более прямого регулирования поставщиков AI-чатботов в рамках законов о безопасности в интернете. Регуляторы предупредили, что несоблюдение требований может привести к судебным мерам, включая возможные ограничения в предоставлении услуг.

В Австралии комиссар по вопросам безопасности в интернете (eSafety Commissioner) зафиксировал резкий рост жалоб, связанных с несогласованными сексуальными изображениями, созданными AI и связанными с Grok. В то же время генеральный прокурор Калифорнии Роб Бонта объявил о начале официального расследования в отношении xAI и его чатбота по поводу создания и распространения откровенных AI-сгенерированных изображений с участием женщин и детей.

Международные организации также выражают тревогу. ЮНИСЕФ недавно охарактеризовал AI-генерируемые сексуальные deepfake как «глубокое обострение» рисков для детей в цифровой среде, отметив, что в прошлом году было нацелено как минимум 1,2 миллиона детей. Агентство призвало правительства криминализировать материалы с AI-генерированным насилием и внедрять меры безопасности по умолчанию в системах генеративного AI.

По мере расширения расследований в различных юрисдикциях, дело против X и Grok подчеркивает более широкий сдвиг в регулировании. Правительства все чаще переходят от реактивного преследования к проактивному надзору за системами генеративного AI, особенно там, где затрагиваются права детей и конфиденциальность.