¡Grok involucrado en explotación sexual bajo la vigilancia de 9 regiones! Reino Unido inicia una investigación, y si se detectan ilegalidades, podrían enfrentarse a multas millonarias
Grok, la inteligencia artificial de Elon Musk, por presunta generación de imágenes de explotación infantil, ha sido vigilada por nueve agencias regulatorias en regiones como Reino Unido y Australia. Si la investigación determina que ha infringido la ley, la multa máxima puede llegar a 18 millones de libras esterlinas, e incluso solicitar una orden judicial para bloquearla.
Reino Unido investiga a Grok por explotación infantil, con posibles multas de hasta 1800 millones de libras
El chatbot de IA de Musk, Grok, ha sido recientemente acusado de ser abusado en masa para crear deepfakes pornográficos, incluyendo víctimas infantiles y adolescentes, tras integrar la función de modificación rápida de imágenes en la plataforma X.
Recientemente, Reino Unido y Australia han iniciado investigaciones o emitido advertencias a la plataforma X (anteriormente Twitter). Si las infracciones son graves, X podría enfrentarse a multas sustanciales o a la suspensión.
La Oficina de Comunicaciones de Reino Unido (Ofcom) ha iniciado una investigación centrada en contenido de abuso sexual infantil (CSAM) y deepfakes no consentidos.
Si se determina que X ha infringido la ley, la multa máxima en Reino Unido puede ser de 1,800 millones de libras o el 10% de los ingresos globales de la empresa. Si X se niega a cumplir, Ofcom puede incluso solicitar una orden judicial para que los proveedores de servicios en línea bloqueen X en Reino Unido.
Fuente: Ofcom La Oficina de Comunicaciones de Reino Unido (Ofcom) ha iniciado investigaciones sobre X y Grok, centradas en contenido de abuso sexual infantil (CSAM) y deepfakes no consentidos.
La Oficina de Seguridad en Internet de Australia (eSafety) ha recibido varias denuncias sobre imágenes generadas por Grok relacionadas con explotación, aunque en menor cantidad, la tendencia está en aumento. Han solicitado a X que proporcione más información sobre las medidas de protección contra el abuso.
eSafety advierte que, en caso de infracción, ejercerá su autoridad para emitir avisos de eliminación, y a partir del 9 de marzo de 2026, entrará en vigor una nueva regulación en Australia que exigirá controles más estrictos en los servicios de IA para limitar el acceso de menores a contenido pornográfico y violento.
Fuente: eSafety La Oficina de Seguridad en Internet de Australia (eSafety) exige a X que proporcione más información sobre sus medidas de protección contra el abuso.
La controversia por la explotación sexual con Grok en la mira, con bloqueos e investigaciones en varias regiones
Según Euro News y reportes previos, incluyendo Reino Unido y Australia, actualmente hay 9 países y regiones que han tomado medidas contra Grok (puede deslizar para ver detalles en la tabla):
| Países y regiones preocupados por la controversia de explotación con Grok | |
|---|---|
| Reino Unido | Inició una investigación para evaluar si X viola la ley y está considerando multas elevadas. |
| Australia | Exige a X que explique sus mecanismos de seguridad o emitirá avisos de eliminación de contenido. |
| Indonesia | Bloqueo temporal de Grok, como medida preventiva para proteger a la población de contenido sexual no voluntario. |
| Malasia | Bloqueo temporal de Grok, por considerar que X no ha resuelto los riesgos inherentes al diseño de la plataforma. |
| Unión Europea | Requiere que X conserve todos los documentos relacionados con Grok hasta fin de año para evaluar cumplimiento normativo. |
| Francia | La investigación sobre X se amplía a Grok, centrada en acusaciones de generación de imágenes pornográficas de menores. |
| Italia | Critica el uso de software de IA para “desvestir” y considera que puede violar gravemente los derechos humanos, colaborando con la autoridad reguladora en Irlanda, sede europea de X. |
| Alemania | No acepta la violencia digital a gran escala y planifica propuestas legales específicas contra la violencia digital. |
| India | Envió una carta a X acusando que no ha impedido el uso indebido de Grok para generar y difundir contenido obsceno. |
Límite de pago y suspensión permanente de Grok
Frente a la presión regulatoria internacional, X y xAI han respondido. La autoridad reguladora de Malasia reveló que X afirmó que Grok depende principalmente de denuncias de usuarios para gestionar abusos. Para calmar las inquietudes, X tomará medidas más activas.
X ha reiterado que tomará acciones contra contenidos ilegales como CSAM, incluyendo la suspensión definitiva de cuentas relacionadas, y colaborará con las autoridades en investigaciones cuando sea necesario.
Fuente: X La plataforma X ha reiterado que actuará contra contenidos ilegales como CSAM.
Además, recientemente, X ha restringido la función de modificación de imágenes de Grok, requiriendo que los usuarios sean suscriptores (la marca azul) para usarla.
Algunos críticos cuestionan si X podría cobrar a los usuarios que abusen de Grok, similar a Meta, donde las estafas de intercambio tienen una probabilidad menor al 95%, pero aún así sospechan de anuncios fraudulentos que cobran altas tarifas publicitarias; otros opinan que, aunque no se pueda eliminar completamente el abuso, tener un umbral de acceso es mejor que no tener ninguno.