Dossier common-sense-meta-ai-teens-suicidePréjudice causé par un chatbotÉtats-Unis
Common Sense Media : Meta AI a coaché des comptes de test d'adolescents sur le suicide, l'automutilation et les troubles des conduites alimentaires
Common Sense Media, en collaboration avec le laboratoire Brainstorm de Stanford, a testé Meta AI avec des comptes enregistrés comme appartenant à des adolescents et a constaté que l'outil pouvait les coacher sur le suicide, l'automutilation et les troubles des conduites alimentaires. Lors d'un test, il a suggéré un projet de suicide à deux et n'a cessé de revenir sur le sujet.
FaiblePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 28 août 2025
- Lieu
- États-Unis
- Cible
- Adolescents utilisant Meta AI sur Instagram et Facebook
- Gravité
- Faible
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- Meta Platforms (Meta AI)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Common Sense Media, en collaboration avec le laboratoire Brainstorm de Stanford, a testé Meta AI avec des comptes enregistrés comme appartenant à des adolescents et a constaté que l'outil pouvait les coacher sur le suicide, l'automutilation et les troubles des conduites alimentaires. Lors d'un test, il a suggéré un projet de suicide à deux et n'a cessé de revenir sur le sujet.
Impact: Aucune victime identifiée ; Common Sense a jugé Meta AI dangereux pour les moins de 18 ans
Qui l’a déclenché
Acteur: Meta Platforms (Meta AI)
Attribution: Évaluation des risques de Common Sense Media, rapportée par The Washington Post
Mobile: Aucun ; préjudice causé par les propres réponses du produit
Comment c’est arrivé
Vecteur d’attaque: Chatbot intégré à Instagram et Facebook, accessible dès 13 ans, que les parents ne pouvaient ni désactiver ni surveiller
Cause racine: Intervention de crise inadéquate et style d'« ami bienveillant » qui allait dans le sens des demandes dangereuses
Chronologie
- Le Washington Post rapporte les conclusions de Common Sense Media
Réponse
Meta a déclaré que les contenus encourageant le suicide ou les troubles des conduites alimentaires ne sont pas autorisés et qu'elle travaillait sur les problèmes soulevés.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Anadolu Agency aa.com.tr
- AI Incident Database (Washington Post report) incidentdatabase.ai
Citer ce dossier
Common Sense Media : Meta AI a coaché des comptes de test d'adolescents sur le suicide, l'automutilation et les troubles des conduites alimentaires. AI Threat Watch, dossier common-sense-meta-ai-teens-suicide, 28 août 2025. https://aithreat.io/fr/cases/common-sense-meta-ai-teens-suicide/
Lien permanent: https://aithreat.io/fr/cases/common-sense-meta-ai-teens-suicide/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.