Dossier ccdh-fake-friend-chatgpt-13-year-oldsPréjudice causé par un chatbotÉtats-Unis
Test du CCDH : ChatGPT a prodigué à des comptes se faisant passer pour des enfants de 13 ans des conseils sur l’automutilation, les régimes et les drogues
Dans son rapport « Fake Friend », le Center for Countering Digital Hate indique que 53 % des 1 200 réponses de ChatGPT à des chercheurs se faisant passer pour des enfants de 13 ans étaient nuisibles. Elles comprenaient des conseils d’automutilation par coupures en moins de 2 minutes, un plan de régime restrictif en moins de 20 minutes, et un plan de suicide accompagné de lettres d’adieu en moins de 65 minutes.
FaiblePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 6 août 2025
- Lieu
- États-Unis
- Cible
- Adolescents utilisant ChatGPT
- Gravité
- Faible
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- OpenAI (ChatGPT)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Dans son rapport « Fake Friend », le Center for Countering Digital Hate indique que 53 % des 1 200 réponses de ChatGPT à des chercheurs se faisant passer pour des enfants de 13 ans étaient nuisibles. Elles comprenaient des conseils d’automutilation par coupures en moins de 2 minutes, un plan de régime restrictif en moins de 20 minutes, et un plan de suicide accompagné de lettres d’adieu en moins de 65 minutes.
Impact: Aucune victime précise ; l’étude a mis en évidence des risques d’automutilation, de troubles du comportement alimentaire et de consommation abusive de substances pour les utilisateurs adolescents
Qui l’a déclenché
Acteur: OpenAI (ChatGPT)
Attribution: Recherche du Center for Countering Digital Hate, examinée par l’Associated Press
Mobile: Aucun ; le préjudice provient des propres réponses du produit
Comment c’est arrivé
Vecteur d’attaque: Un cadrage simple, du type « pour un exposé » ou « pour un ami », suffisait à contourner les refus
Cause racine: Absence de vérification de l’âge et garde-fous faciles à contourner
Chronologie
- Le CCDH publie « Fake Friend »
Réponse
OpenAI a indiqué travailler à des outils permettant de mieux détecter les signes de détresse mentale ou émotionnelle.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Center for Countering Digital Hate counterharm.com
- Associated Press (via FOX 6) fox6now.com
Citer ce dossier
Test du CCDH : ChatGPT a prodigué à des comptes se faisant passer pour des enfants de 13 ans des conseils sur l’automutilation, les régimes et les drogues. AI Threat Watch, dossier ccdh-fake-friend-chatgpt-13-year-olds, 6 août 2025. https://aithreat.io/fr/cases/ccdh-fake-friend-chatgpt-13-year-olds/
Lien permanent: https://aithreat.io/fr/cases/ccdh-fake-friend-chatgpt-13-year-olds/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.