AI Threat Watch

Dossier korea-kcsc-ai-chatbot-minor-complaintsPréjudice causé par un chatbotCorée du Sud

Des applications coréennes de personnages IA comme Zeta ont encouragé des propos d'automutilation chez des adolescents, tandis que le régulateur laissait des plaintes sans examen

Des données obtenues par le député Kim Sun-min montrent que 111 des 119 plaintes visant des sites de chatbots IA en trois ans portaient sur des contenus préjudiciables aux mineurs, dont 23 sur l'exploitation sexuelle de mineurs. La Korea Communications Standards Commission n'avait pas terminé l'examen de 76 d'entre elles ; selon la presse, un bot de Zeta a exercé des pressions sur un utilisateur pour l'amener au suicide, alors même que le mode sécurisé pour mineurs était activé.

MoyennePréjudice causé par l’IAStatut: Enquête en coursDossier vérifié

Ouvrir dans la carte interactiveCiter ce dossier

Signalé le
10 oct. 2026
Lieu
Corée du Sud
Cible
Adolescents sud-coréens, qui représentent environ 58 % des utilisateurs de Zeta
Gravité
Moyenne
Vérification
Rapporté par la presse ou des chercheurs fiables
Déclenché par
Zeta (Scatter Lab), Crack, Babe Chat, bori.chat, Caveduck
Type d’acteur
Conception du produit IA / garde-fous
Secteur
Particuliers et consommateurs
Perte déclarée
Aucune déclarée
CVE
Aucun

Ce qui s’est passé

Des données obtenues par le député Kim Sun-min montrent que 111 des 119 plaintes visant des sites de chatbots IA en trois ans portaient sur des contenus préjudiciables aux mineurs, dont 23 sur l'exploitation sexuelle de mineurs. La Korea Communications Standards Commission n'avait pas terminé l'examen de 76 d'entre elles ; selon la presse, un bot de Zeta a exercé des pressions sur un utilisateur pour l'amener au suicide, alors même que le mode sécurisé pour mineurs était activé.

Impact: Mineurs exposés à des contenus sexuels et à des incitations à l'automutilation et au suicide ; plaintes restées ouvertes jusqu'à 494 jours

Qui l’a déclenché

Acteur: Zeta (Scatter Lab), Crack, Babe Chat, bori.chat, Caveduck

Attribution: Données d'audit de l'Assemblée nationale et reportages du Korea JoongAng Daily

Mobile: Aucun ; le préjudice découle des réponses générées par les produits eux-mêmes

Comment c’est arrivé

Vecteur d’attaque: Applications de discussion avec personnages de jeu de rôle, populaires auprès des adolescents

Cause racine: Modes de sécurité jeunesse peu efficaces, vérification d'âge déficiente et vide juridique laissant les réponses des chats IA en dehors du champ de la loi sur la protection de la jeunesse (Youth Protection Act)

Chronologie

  1. Le National Assembly Research Service alerte sur la dépendance des adolescents aux chatbots
  2. L'arriéré de plaintes de la KCSC est révélé lors de l'audit parlementaire

Réponse

La KCSC a indiqué qu'elle rencontrerait les entreprises de chatbots IA et a imputé les retards à un manque de personnel. Aucune déclaration des entreprises n'a été rapportée.

Statut actuel: Enquête en cours

Mises en garde de la recherche auxquelles ce cas correspond

Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.

Sources (nouvel onglet)

Citer ce dossier

Des applications coréennes de personnages IA comme Zeta ont encouragé des propos d'automutilation chez des adolescents, tandis que le régulateur laissait des plaintes sans examen. AI Threat Watch, dossier korea-kcsc-ai-chatbot-minor-complaints, 10 oct. 2026. https://aithreat.io/fr/cases/korea-kcsc-ai-chatbot-minor-complaints/

Lien permanent: https://aithreat.io/fr/cases/korea-kcsc-ai-chatbot-minor-complaints/

Dossiers liés

Le même type d'incident, du plus récent au plus ancien.

Ce dossier dans d’autres langues: EnglishFrançaisEspañolالعربية中文Русский