AI Threat Watch

Dossier south-korea-telegram-school-deepfake-crisisAbus par deepfakeCorée du Sud

Crise des deepfakes en milieu scolaire en Corée du Sud : des groupes Telegram ciblent des élèves ; le président Yoon ordonne une répression

En août 2024, des groupes de discussion Telegram liés à des écoles et à des universités ont été découverts en train de diffuser des deepfakes sexuels générés par IA représentant des étudiantes, dont un groupe d’environ 1 200 membres visant plus de 30 étudiantes de l’université Inha ; la police a indiqué que 73,6 % des suspects identifiés début 2024 étaient mineurs. Le président Yoon a ordonné une répression, la police a lancé une opération spéciale de sept mois et, le 26 septembre, le Parlement a érigé en infraction la détention ou le visionnage de deepfakes sexuels.

CritiquePréjudice causé par l’IAStatut: En coursDossier vérifié

Ouvrir dans la carte interactiveCiter ce dossier

Signalé le
28 août 2024
Lieu
Corée du Sud
Cible
Collégiennes, lycéennes, étudiantes et enseignantes de toute la Corée du Sud
Gravité
Critique
Vérification
Confirmé par la victime, l’éditeur ou une autorité
Déclenché par
Surtout des adolescents et des étudiants de sexe masculin utilisant des groupes de discussion Telegram
Type d’acteur
Criminel
Secteur
Éducation et recherche
Perte déclarée
Aucune déclarée
CVE
Aucun

Ce qui s’est passé

En août 2024, des groupes de discussion Telegram liés à des écoles et à des universités ont été découverts en train de diffuser des deepfakes sexuels générés par IA représentant des étudiantes, dont un groupe d’environ 1 200 membres visant plus de 30 étudiantes de l’université Inha ; la police a indiqué que 73,6 % des suspects identifiés début 2024 étaient mineurs. Le président Yoon a ordonné une répression, la police a lancé une opération spéciale de sept mois et, le 26 septembre, le Parlement a érigé en infraction la détention ou le visionnage de deepfakes sexuels.

Impact: 297 cas de deepfakes signalés de janvier à juillet 2024 ; plus de 800 affaires de délits sexuels par deepfake fin septembre

Qui l’a déclenché

Acteur: Surtout des adolescents et des étudiants de sexe masculin utilisant des groupes de discussion Telegram

Attribution: Agence nationale de la police coréenne (KNPA)

Mobile: Humiliation de camarades de classe et d’enseignantes ; partage en groupe

Comment c’est arrivé

Vecteur d’attaque: Outils de deepfake par IA appliqués à des selfies récupérés sur Instagram ; images partagées dans des groupes Telegram organisés par école ou université

Cause racine: Outils de deepfake faciles d’accès, coopération limitée de Telegram avec la police et sanctions peu dissuasives

Chronologie

  1. Le président Yoon ordonne aux autorités d’enquêter sur les délits sexuels par deepfake
  2. La KNPA annonce une répression spéciale de sept mois ; les données montrent que 131 des 178 suspects étaient mineurs
  3. L’AFP fait état de sept arrestations dans le cadre de la répression, dont six d’adolescents
  4. L’Assemblée nationale adopte un projet de loi érigeant en infraction la détention et le visionnage de deepfakes sexuels

Réponse

Répression de sept mois menée par la KNPA avec des logiciels de détection ; l’Assemblée nationale a érigé en infraction l’achat, l’enregistrement ou le visionnage de deepfakes sexuels (jusqu’à 3 ans de prison) et porté à 7 ans la peine maximale pour leur fabrication

Statut actuel: En cours

Sources (nouvel onglet)

Citer ce dossier

Crise des deepfakes en milieu scolaire en Corée du Sud : des groupes Telegram ciblent des élèves ; le président Yoon ordonne une répression. AI Threat Watch, dossier south-korea-telegram-school-deepfake-crisis, 28 août 2024. https://aithreat.io/fr/cases/south-korea-telegram-school-deepfake-crisis/

Lien permanent: https://aithreat.io/fr/cases/south-korea-telegram-school-deepfake-crisis/

Dossiers liés

Le même type d'incident, du plus récent au plus ancien.

Ce dossier dans d’autres langues: EnglishFrançaisEspañolالعربية中文Русский