Expediente grok-indonesia-malaysia-block-sexualised-imagesAbuso con deepfakesIndonesia
Indonesia y Malasia bloquean Grok tras generar imágenes sexualizadas de mujeres y menores
Indonesia bloqueó temporalmente Grok, de xAI, el 10 de enero de 2026 y Malasia la siguió el 11 de enero. Ambos países citaron el uso reiterado de la herramienta para crear imágenes sexuales no consentidas a partir de fotos reales, también de menores.
AltaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 10 ene 2026
- Ubicación
- Indonesia
- Objetivo
- Mujeres y menores cuyas fotos fueron editadas por Grok
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- xAI (generación y edición de imágenes de Grok)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Indonesia bloqueó temporalmente Grok, de xAI, el 10 de enero de 2026 y Malasia la siguió el 11 de enero. Ambos países citaron el uso reiterado de la herramienta para crear imágenes sexuales no consentidas a partir de fotos reales, también de menores.
Impacto: Primeros bloqueos nacionales de Grok. El MeitY de la India envió a X un aviso con un plazo de 72 horas el 2 de enero de 2026 por contenidos de Grok dirigidos contra mujeres y niños.
Quién lo provocó
Actor: xAI (generación y edición de imágenes de Grok)
Atribución: Ministerio de Comunicación y Asuntos Digitales de Indonesia; Comisión de Comunicaciones y Multimedia de Malasia
Motivo: Ninguno; daño derivado de las capacidades del producto, utilizadas indebidamente por los usuarios
Cómo ocurrió
Vector de ataque: Función de edición de imágenes de Grok en X, empleada para “desnudar” fotos de personas reales
Causa raíz: Salvaguardas insuficientes frente a las ediciones sexualizadas de personas reales, incluidos niños
Cronología
- El MeitY de la India envía un aviso a X por contenido obsceno de Grok
- Indonesia bloquea temporalmente Grok
- Malasia bloquea Grok
Respuesta
Grok limitó la generación y edición de imágenes a los usuarios de pago. xAI respondió a las consultas de la prensa con una respuesta automática que decía “Legacy Media Lies”.
Estado actual: Contenido
Fuentes (pestaña nueva)
- Associated Press (via WTAP) wtap.com
- Business Today businesstoday.in
Citar este expediente
Indonesia y Malasia bloquean Grok tras generar imágenes sexualizadas de mujeres y menores. AI Threat Watch, expediente grok-indonesia-malaysia-block-sexualised-images, 10 ene 2026. https://aithreat.io/es/cases/grok-indonesia-malaysia-block-sexualised-images/
Enlace permanente: https://aithreat.io/es/cases/grok-indonesia-malaysia-block-sexualised-images/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.