Grok обвиняют в сексуальной эксплуатации, 9 крупных регионов пристально следят! Великобритания запускает расследование, нарушение может повлечь огромные штрафы
Grok компании Маска попал под пристальное внимание 9 крупных регуляторов из Великобритании, Австралии и других стран из-за предполагаемого создания сексуального контента с участием несовершеннолетних. Великобритания может наложить штраф в размере до 18 млн фунтов стерлингов при подтверждении нарушений и даже обратиться в суд с просьбой принудительно заблокировать платформу.
Британские регуляторы расследуют Grok за сексуальное содокрывательство несовершеннолетних; штраф может составить 18 млн фунтов
AI-чатбот Grok компании Маска недавно привлек внимание из-за интеграции функции редактирования реалистичных изображений с платформы X, в результате чего его массово начали использовать для создания дипфейков порнографического контента, в том числе с участием детей и подростков.
В последнее время Великобритания и Австралия официально начали расследование X (бывший Twitter) или объявили предупреждения. При серьезных нарушениях платформа X может столкнуться с крупными штрафами или блокировкой.
Британский регулятор Ofcom начал расследование в отношении X, сосредоточив внимание на материалах, связанных с сексуальным насилием над детьми (CSAM), и порнографическом контенте дипфейков без согласия.
**В случае признания нарушений со стороны X Британия может наложить штраф в размере 18 млн фунтов стерлингов или 10% от глобальных доходов компании.**Если X откажется соответствовать требованиям, Ofcom может даже обратиться в суд с просьбой принудительно заблокировать платформу X на территории Великобритании.
Источник изображения: Ofcom Британский регулятор Ofcom начал расследование в отношении X и Grok, сосредоточив внимание на материалах, связанных с сексуальным насилием над детьми (CSAM), и порнографическом контенте дипфейков без согласия.
Австралийское управление по безопасности в интернете (eSafety) получило несколько сообщений о создании Grok материалов сексуальной эксплуатации. Хотя количество случаев невелико, наблюдается тенденция к увеличению. Управление потребовало от X предоставить дополнительную информацию о мерах защиты от злоупотреблений.
eSafety предупредило, что в случае нарушений оно будет выполнять свои полномочия по выдаче уведомлений об удалении, а с 9 марта 2026 года вступят в силу новые австралийские норм, которые будут более строгими требованиями к сервисам искусственного интеллекта ограничивать доступ детей к порнографическому и насильственному контенту.
Источник изображения: eSafety Австралийское управление по безопасности в интернете (eSafety) потребовало от X предоставить дополнительную информацию о мерах защиты от злоупотреблений.
Противоречие Grok, связанное с сексуальной эксплуатацией, под пристальным наблюдением; краткий обзор стран и регионов, которые применяют меры блокировки и расследования
По данным Euro News и ранее опубликованным отчетам, в настоящее время 9 стран и регионов принимают меры в отношении Grok (вы можете прокручивать таблицу влево и вправо для подробной информации):
| Страны и регионы, обеспокоенные сексуальной эксплуатацией через Grok | |
|---|---|
| Великобритания | Начало расследования для оценки возможных нарушений X и разработка программы высоких штрафов. |
| Австралия | Требование к X объяснить механизмы безопасности или выдача уведомлений об удалении контента. |
| Индонезия | Временная блокировка Grok как превентивная мера защиты населения от добровольно распространяемого порнографического контента. |
| Малайзия | Временная блокировка Grok, признав неспособность X устранить присущие риски дизайна платформы. |
| Европейский союз | Требование к X сохранить все документы, связанные с Grok, до конца года для оценки соответствия правилам ЕС. |
| Франция | Расширение существующего расследования X на Grok с акцентом на предполагаемые обвинения в создании сексуального контента с несовершеннолетними. |
| Италия | Критика использования AI-инструментов для «раздевания», которые могут серьезно нарушать права человека, и сотрудничество с ирландскими регуляторами, где находится европейская штаб-квартира X. |
| Германия | Неприятие массовых и систематических нарушений прав, разработка конкретных юридических предложений по борьбе с цифровым насилием. |
| Индия | Письмо к платформе X с обвинениями в неспособности предотвратить злоупотребление Grok для создания и распространения непристойного контента. |
Grok установил платный порог и постоянное отстранение
Столкнувшись с давлением со стороны регуляторов разных стран, платформа X и xAI отреагировали. Малайзийские регуляторы раскрыли, что X в своем ответе заявил, что Grok в основном зависит от сообщений пользователей при работе со злоупотреблениями. Чтобы развеять противоречия, X примет более активные меры.
Платформа X ранее подчеркивала, что будет принимать меры против незаконного контента, включая материалы, связанные с сексуальным насилием над детьми (CSAM), включая постоянное отстранение соответствующих аккаунтов, и когда необходимо, сотрудничество с правительством и правоохранительными органами.
Источник изображения: X Платформа X ранее подчеркивала, что будет принимать меры против незаконного контента, включая материалы, связанные с сексуальным насилием над детьми (CSAM)
Кроме того, платформа X недавно ввела в ответ на ограничение порога использования функции редактирования изображений в Grok требование быть подписчиком платформы (верифицированным пользователем) для использования функции редактирования изображений.
Некоторые критики предположили, является ли X возможность взимать плату с пользователей, злоупотребляющих Grok, подобно тому, как Meta взимает высокую плату за объявления мошенников, утверждающих о низкой вероятности обмана менее чем на 95%, но по-прежнему подозреваемых в мошенничестве**;****однако есть и те, которые считают, чтодаже если невозможно полностью предотвратить злоупотребления, наличие порога использования все же лучше, чем его отсутствие.