Dossier grok-indonesia-malaysia-block-sexualised-imagesAbus par deepfakeIndonésie
L'Indonésie et la Malaisie bloquent Grok après la production d'images sexualisées de femmes et de mineurs
L'Indonésie a bloqué temporairement Grok, l'outil de xAI, le 10 janvier 2026, suivie par la Malaisie le 11 janvier. Les deux pays ont invoqué l'utilisation répétée de l'outil pour fabriquer, à partir de photos réelles, des images sexuelles non consenties, y compris de mineurs.
ÉlevéePréjudice causé par l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 10 janv. 2026
- Lieu
- Indonésie
- Cible
- Femmes et mineurs dont les photos ont été retouchées par Grok
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- xAI (génération et édition d'images de Grok)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
L'Indonésie a bloqué temporairement Grok, l'outil de xAI, le 10 janvier 2026, suivie par la Malaisie le 11 janvier. Les deux pays ont invoqué l'utilisation répétée de l'outil pour fabriquer, à partir de photos réelles, des images sexuelles non consenties, y compris de mineurs.
Impact: Premiers blocages nationaux de Grok. Le MeitY indien a adressé à X, le 2 janvier 2026, une mise en demeure de 72 heures au sujet de contenus de Grok visant des femmes et des enfants.
Qui l’a déclenché
Acteur: xAI (génération et édition d'images de Grok)
Attribution: Ministère indonésien de la Communication et du Numérique ; Commission malaisienne des communications et du multimédia
Mobile: Aucun ; préjudice causé par les capacités du produit, détournées par des utilisateurs
Comment c’est arrivé
Vecteur d’attaque: Fonction d'édition d'images de Grok sur X, utilisée pour « déshabiller » des photos de personnes réelles
Cause racine: Garde-fous insuffisants contre les retouches sexualisées de personnes réelles, y compris d'enfants
Chronologie
- Le MeitY indien adresse à X une mise en demeure au sujet de contenus obscènes générés par Grok
- L'Indonésie bloque temporairement Grok
- La Malaisie bloque Grok
Réponse
Grok a limité la génération et l'édition d'images aux utilisateurs payants. xAI a répondu aux sollicitations de la presse par une réponse automatique indiquant : « Legacy Media Lies ».
Statut actuel: Contenu
Sources (nouvel onglet)
- Associated Press (via WTAP) wtap.com
- Business Today businesstoday.in
Citer ce dossier
L'Indonésie et la Malaisie bloquent Grok après la production d'images sexualisées de femmes et de mineurs. AI Threat Watch, dossier grok-indonesia-malaysia-block-sexualised-images, 10 janv. 2026. https://aithreat.io/fr/cases/grok-indonesia-malaysia-block-sexualised-images/
Lien permanent: https://aithreat.io/fr/cases/grok-indonesia-malaysia-block-sexualised-images/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.