Grok impliqué dans l'exploitation sexuelle sous surveillance dans 9 grandes régions ! Le Royaume-Uni lance une enquête, en cas d'infraction, des amendes astronomiques pourraient être appliquées
Elon Musk et sa société Grok sont sous la surveillance de neuf autorités de régulation dans des régions telles que le Royaume-Uni et l’Australie, en raison de soupçons de génération d’images d’exploitation sexuelle d’enfants et d’adolescents. Si une enquête au Royaume-Uni conclut à une infraction, une amende pouvant atteindre 18 millions de livres sterling pourrait être infligée, voire une ordonnance judiciaire pour bloquer l’accès.
Le Royaume-Uni enquête sur Grok pour exploitation sexuelle d’enfants, risque d’amende de 180 millions de livres
L’IA chatbot Grok, appartenant à Elon Musk, a récemment été accusée d’être massivement détournée pour produire des images pornographiques deepfake, y compris impliquant des enfants et des adolescents, suite à l’intégration d’une fonction de modification instantanée d’images réalistes via la plateforme X.
Récemment, le Royaume-Uni et l’Australie ont officiellement lancé des enquêtes ou émis des avertissements à l’encontre de la plateforme X (anciennement Twitter). En cas de violations graves, X pourrait faire face à des amendes importantes ou à un blocage.
L’Ofcom, l’autorité de régulation des communications du Royaume-Uni, a lancé une enquête sur X, portant sur le contenu de maltraitance sexuelle d’enfants (CSAM) et les deepfakes non consensuels à caractère pornographique.
Si l’enquête conclut à une infraction de la part de X, une amende pouvant atteindre 18 millions de livres sterling ou 10 % du chiffre d’affaires mondial de la société pourrait être appliquée. Si X refuse de coopérer, l’Ofcom pourrait même demander une ordonnance judiciaire pour obliger les fournisseurs d’accès à Internet à bloquer X au Royaume-Uni.
Source : Ofcom L’autorité de régulation des communications du Royaume-Uni (Ofcom) a lancé une enquête sur X et Grok, axée sur le contenu de maltraitance sexuelle d’enfants (CSAM) et les deepfakes non consensuels à caractère pornographique.
L’Office australien de la sécurité en ligne (eSafety) a également reçu plusieurs signalements concernant des images d’exploitation sexuelle générées par Grok. Bien que le nombre soit faible, une tendance à l’augmentation a été observée. Il a demandé à X de fournir davantage d’informations sur ses mesures de prévention contre les abus.
eSafety a averti que, en cas de violation, il exercera ses pouvoirs pour émettre des notifications de retrait. De plus, à partir du 9 mars 2026, une nouvelle réglementation australienne entrera en vigueur, imposant des restrictions plus strictes sur l’accès des enfants à du contenu pornographique ou violent via l’IA.
Source : eSafety L’Office australien de la sécurité en ligne (eSafety) demande à X de fournir plus d’informations sur ses mesures de prévention contre les abus.
Les controverses autour de l’exploitation sexuelle par Grok sous surveillance, régions concernées en un coup d’œil
Selon une synthèse de « Euro News » et des rapports précédents, y compris le Royaume-Uni et l’Australie, au total 9 pays et régions ont pris des mesures contre Grok (voir tableau pour plus de détails) :
| Pays et régions préoccupés par la controverse sur l’exploitation sexuelle de Grok | |
|---|---|
| Royaume-Uni | Lancement d’une enquête pour évaluer si X est en infraction, et préparation d’amendes élevées. |
| Australie | Exige que X explique ses mécanismes de sécurité ou émette une notification de retrait pour contenu illicite. |
| Indonésie | Blocage temporaire de Grok, considéré comme une mesure préventive pour protéger le public contre l’exposition involontaire à du contenu pornographique. |
| Malaisie | Blocage temporaire de Grok, en raison de l’incapacité de X à résoudre les risques inhérents à la conception de la plateforme. |
| Union Européenne | Demande à X de conserver tous les documents liés à Grok jusqu’à la fin de l’année pour évaluer la conformité avec la réglementation européenne. |
| France | L’enquête existante sur X s’étend à Grok, avec un focus sur des accusations de génération d’images pornographiques impliquant des mineurs. |
| Italie | Critique de l’utilisation de logiciels d’IA pour « déshabiller » qui pourrait gravement porter atteinte aux droits humains, en collaboration avec l’autorité de régulation irlandaise, siège européen de X. |
| Allemagne | Inacceptable pour une violation systématique et massive, planification de propositions législatives concrètes contre la violence numérique. |
| Inde | Lettre à X, accusant la plateforme de ne pas avoir empêché l’utilisation abusive de Grok pour générer et diffuser du contenu obscène. |
Les seuils de paiement pour Grok et la suspension permanente
Face à la pression réglementaire, X et xAI ont également répondu. L’autorité de régulation malaisienne a indiqué que X a répondu que Grok dépend principalement des signalements des utilisateurs pour traiter les abus. Pour apaiser la controverse, X prévoit d’adopter des mesures plus actives.
X a précédemment affirmé qu’il prendrait des mesures contre les contenus illicites tels que la pornographie infantile (CSAM), y compris la suspension permanente des comptes concernés, et coopérerait avec les autorités et forces de l’ordre lors d’enquêtes si nécessaire.
![]https://img-cdn.gateio.im/social/moments-aa43dad283-5060e9cb51-8b7abd-e2c905
Source : X X a précédemment souligné qu’il prendra des mesures contre la pornographie infantile (CSAM) et autres contenus illicites.
De plus, X a récemment resserré les conditions d’utilisation de Grok pour la modification d’images, en exigeant que les utilisateurs soient abonnés (avec le badge bleu) pour accéder à cette fonctionnalité.
Certains critiques se demandent si X pourrait faire payer les utilisateurs malintentionnés de Grok, semblable à Meta, où la fraude par échange de devises a une probabilité inférieure à 95 %, mais où certains soupçonnent des publicités frauduleuses facturant des prix élevés. ; d’autres pensent que, même si l’élimination totale des abus est difficile, avoir une barrière d’accès vaut mieux que rien.