AI Threat Watch

Dossier almendralejo-school-deepfake-nudesAbus par deepfakeEspagne

Une application d'IA de « déshabillage » utilisée pour fabriquer de faux nus de plus de 20 écolières à Almendralejo ; 15 mineurs condamnés par la suite

Des garçons de 12 à 14 ans ont récupéré des photos de filles sur les réseaux sociaux, utilisé une application d'IA pour plaquer leurs visages sur des corps nus et diffusé les images dans des groupes WhatsApp et Telegram, ce qui a donné lieu à au moins 22 plaintes auprès de la police. En juillet 2024, le tribunal pour mineurs de Badajoz a condamné 15 mineurs pour 20 chefs de production de matériel d'abus sexuels sur mineurs et 20 chefs d'atteinte à l'intégrité morale, en prononçant à l'encontre de chacun un an de liberté surveillée.

CritiquePréjudice causé par l’IAStatut: RésoluDossier vérifié

Ouvrir dans la carte interactiveCiter ce dossier

Signalé le
19 sept. 2023
Lieu
Espagne
Cible
Plus de 20 écolières âgées de 11 à 17 ans à Almendralejo, en Estrémadure
Gravité
Critique
Vérification
Confirmé par la victime, l’éditeur ou une autorité
Déclenché par
15 garçons de la ville (mineurs, non nommés)
Type d’acteur
Criminel
Secteur
Éducation et recherche
Perte déclarée
Aucune déclarée
CVE
Aucun

Ce qui s’est passé

Des garçons de 12 à 14 ans ont récupéré des photos de filles sur les réseaux sociaux, utilisé une application d'IA pour plaquer leurs visages sur des corps nus et diffusé les images dans des groupes WhatsApp et Telegram, ce qui a donné lieu à au moins 22 plaintes auprès de la police. En juillet 2024, le tribunal pour mineurs de Badajoz a condamné 15 mineurs pour 20 chefs de production de matériel d'abus sexuels sur mineurs et 20 chefs d'atteinte à l'intégrité morale, en prononçant à l'encontre de chacun un an de liberté surveillée.

Impact: Les victimes ont déclaré avoir subi des crises de panique, du harcèlement et du chantage ; certaines ont refusé de retourner à l'école

Qui l’a déclenché

Acteur: 15 garçons de la ville (mineurs, non nommés)

Attribution: Identifiés par la Police nationale espagnole ; condamnés par le tribunal pour mineurs de Badajoz

Mobile: Humiliation et harcèlement de camarades filles ; des victimes ont également signalé du chantage

Comment c’est arrivé

Vecteur d’attaque: Application d'IA de « dénudage » (nudify) (ClothOff, selon Euronews) appliquée à des photos de filles issues des réseaux sociaux ; images diffusées sur WhatsApp et Telegram

Cause racine: Applications de « dénudage » (nudify) librement accessibles, sans contrôle d'âge ni de consentement ; récupération aisée de photos de mineures sur les réseaux sociaux

Chronologie

  1. Des mères rendent l'affaire publique ; la Police nationale indique avoir identifié plusieurs mineurs
  2. Au moins 22 plaintes déposées ; les suspects seraient âgés de 12 à 14 ans ; l'agence de protection des données ouvre sa propre enquête
  3. Le tribunal pour mineurs de Badajoz annonce la condamnation de 15 mineurs, chacun à un an de liberté surveillée

Réponse

La Police nationale et l'Unité centrale de cybercriminalité ont enquêté, l'affaire a été portée devant le parquet des mineurs et l'agence espagnole de protection des données a ouvert sa propre enquête ; 15 garçons ont été condamnés à un an de liberté surveillée, assorti de cours sur l'égalité des sexes et l'usage responsable des technologies

Statut actuel: Résolu

Sources (nouvel onglet)

Citer ce dossier

Une application d'IA de « déshabillage » utilisée pour fabriquer de faux nus de plus de 20 écolières à Almendralejo ; 15 mineurs condamnés par la suite. AI Threat Watch, dossier almendralejo-school-deepfake-nudes, 19 sept. 2023. https://aithreat.io/fr/cases/almendralejo-school-deepfake-nudes/

Lien permanent: https://aithreat.io/fr/cases/almendralejo-school-deepfake-nudes/

Dossiers liés

Le même type d'incident, du plus récent au plus ancien.

Ce dossier dans d’autres langues: EnglishFrançaisEspañolالعربية中文Русский