Grok envolvido em exploração sexual sob investigação em 9 regiões! O Reino Unido inicia uma investigação, e violações podem resultar em multas elevadas
Grok, a IA chatbot de propriedade de Elon Musk, foi alvo de investigação por nove grandes órgãos reguladores no Reino Unido, Austrália e outras regiões, devido à suspeita de geração de imagens de exploração sexual infantil. Se as investigações concluírem que houve ilegalidade, a multa máxima pode chegar a 18 milhões de libras esterlinas, ou até mesmo a uma ordem judicial para bloquear o serviço.
Investigações do Reino Unido sobre Grok por exploração sexual infantil podem resultar em multa de 1800 milhões de libras
Recentemente, o Grok, um chatbot de IA de propriedade de Elon Musk, integrou uma função de edição de imagens realistas com um clique na plataforma X, sendo divulgado que foi amplamente utilizado para criar deepfakes pornográficos, incluindo vítimas menores de idade.
Recentemente, o Reino Unido e a Austrália iniciaram investigações formais ou emitiram alertas à plataforma X (antiga Twitter). Se forem encontradas violações graves, a plataforma pode enfrentar multas elevadas ou o bloqueio.
A Ofcom, autoridade de comunicações do Reino Unido, já iniciou uma investigação sobre a X, focando em conteúdo de abuso sexual infantil (CSAM) e deepfakes não consentidos de conteúdo pornográfico.
Se for constatado que a X violou a lei, a multa máxima no Reino Unido pode chegar a 18 milhões de libras ou 10% da receita global da empresa. Caso a X se recuse a cumprir, a Ofcom pode buscar uma ordem judicial para obrigar provedores de internet a bloquear a plataforma X no território britânico.
Fonte: Ofcom A autoridade de comunicações do Reino Unido (Ofcom) iniciou investigações sobre a X e o Grok, com foco em conteúdo de abuso sexual infantil (CSAM) e deepfakes não consentidos de conteúdo pornográfico.
O escritório de segurança cibernética da Austrália (eSafety) recebeu várias denúncias de imagens de exploração geradas pelo Grok. Embora o número seja pequeno, há uma tendência de aumento, e a X foi solicitada a fornecer mais informações sobre suas medidas de prevenção de abuso.
O eSafety alertou que, em caso de violação, exercerá seu poder para emitir notificações de remoção. A partir de 9 de março de 2026, novas regulamentações na Austrália entrarão em vigor, impondo restrições mais rigorosas ao acesso de crianças a conteúdo pornográfico e violento por IA.
Fonte: eSafety O escritório de segurança cibernética da Austrália (eSafety) solicitou à X que forneça mais informações, detalhando suas medidas de proteção contra abusos.
Controvérsia sobre exploração sexual pelo Grok sob forte vigilância, regiões de bloqueio e investigação
Com base na Euro News e em reportagens anteriores, incluindo o Reino Unido e a Austrália, atualmente há 9 países e regiões tomando ações contra o Grok (deslize para ver detalhes na tabela):
| Países e regiões preocupados com a controvérsia do Grok | |
|---|---|
| Reino Unido | Iniciou investigação para avaliar se a X violou a lei, e está elaborando multas elevadas. |
| Austrália | Exigiu que a X explique seus mecanismos de segurança ou emitirá notificações de remoção de conteúdo ilegal. |
| Indonésia | Bloqueou temporariamente o Grok, considerando uma medida preventiva para proteger o público de conteúdo pornográfico não voluntário. |
| Malásia | Bloqueou temporariamente o Grok, por entender que a X não resolveu os riscos inerentes ao design da plataforma. |
| União Europeia | Exigiu que a X conserve todos os documentos relacionados ao Grok até o final do ano para avaliar conformidade com as regulamentações da UE. |
| França | A investigação existente sobre a X foi ampliada para incluir o Grok, com foco em acusações de geração de imagens pornográficas de menores. |
| Itália | Criticou o uso de softwares de IA para “despir” pessoas, alegando violação grave dos direitos humanos, e está colaborando com a autoridade reguladora da Irlanda, sede da Europa da X. |
| Alemanha | Não aceita violações em grande escala e sistemáticas, e planeja propor leis específicas contra violência digital. |
| Índia | Enviou uma carta à plataforma X acusando-a de não impedir o uso do Grok para gerar e disseminar conteúdo obsceno. |
Grok com limites de pagamento e suspensão permanente
Diante da pressão regulatória, a plataforma X e a xAI também responderam. A autoridade reguladora da Malásia revelou que a X afirmou que o Grok depende principalmente de denúncias de usuários para lidar com abusos. Para acalmar as controvérsias, a X adotará medidas mais ativas.
A plataforma X destacou anteriormente que tomará ações contra conteúdos ilegais como CSAM, incluindo o banimento permanente de contas relacionadas, e colaborará com governos e autoridades na investigação de violações.
Fonte: X A plataforma X anteriormente afirmou que tomará medidas contra conteúdos ilegais como CSAM.
Além disso, recentemente, a plataforma X também aumentou os requisitos para usar o recurso de edição de imagens do Grok, exigindo que o usuário seja assinante (selo azul) para acessar essa funcionalidade.
Há críticas de que a X possa estar cobrando pelo uso do Grok por usuários mal-intencionados, semelhante ao Meta, que tem baixa probabilidade de fraude de 95%, mas ainda assim suspeita-se de anúncios fraudulentos cobrando altos valores.; alguns também acreditam que, mesmo que não seja possível eliminar completamente o uso indevido, estabelecer uma barreira de acesso é melhor do que nenhuma.