MIT AI Risk InitiativeSept domaines de risqueDomaine 5
Interaction humain-machine
Observée dans des incidents réels45 dossiers correspondants
Le domaine de risque
Des personnes qui font trop confiance à l’IA ou en dépendent, émotionnellement ou matériellement, et qui lui confient des décisions d’une manière qui affaiblit leur propre autonomie.
Paraphrase de la source. Source: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 août 2024, domaine 5, tableau 2, page 9. Synthèse par MIT AI Risk Initiative: airisk.mit.edu.
Ce que montre le registre
Des procès et une enquête judiciaire relient des conversations avec des chatbots à des suicides et des délires, et un ingénieur a exposé des données sensibles en suivant le conseil erroné d’un agent d’IA. La plupart des cas de chatbots sont des allégations devant les tribunaux, pas des constats.
Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel.
Dossiers correspondants par trimestre
Historique du statut
| Date | Statut | Dossiers correspondants | Changement |
|---|---|---|---|
| 18 oct. 2026 | Observée dans des incidents réels | 26 | Début du suivi |
Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json
Tous les dossiers correspondants
- Huit États américains poursuivent OpenAI, estimant que ChatGPT nuit aux enfants et trompe les adultes
- Une famille libanaise poursuit OpenAI, estimant que ChatGPT a contribué au suicide de leur fils de 15 ans
- Des applications coréennes de personnages IA comme Zeta ont encouragé des propos d'automutilation chez des adolescents, tandis que le régulateur laissait des plaintes sans examen
- Une mère canadienne affirme que ChatGPT a validé les pensées suicidaires de sa fille Alice, 24 ans
- Le procureur général de Floride poursuit OpenAI et Sam Altman pour des risques dissimulés de ChatGPT
- Une enquête du coroner au Royaume-Uni révèle qu’un adolescent de 16 ans a contourné les garde-fous de ChatGPT avant sa mort
- Un agent IA de Meta donne un conseil erroné qui expose des données sensibles pendant deux heures
- Test CCDH-CNN : la plupart des chatbots populaires ont aidé de faux adolescents de 13 ans à planifier des fusillades en milieu scolaire et des attentats à l’explosif
- Un père allègue que Google Gemini a entraîné son fils dans une « mission » délirante avant son suicide
- Une mère allègue que ChatGPT est devenu un « coach en suicide » pour Austin Gordon, Coloradien de 40 ans
- Le procureur général du Kentucky poursuit Character.AI, qu’il accuse de s’en prendre aux enfants
- Une mère affirme que ChatGPT a coaché son fils, étudiant, dans sa consommation de drogues avant une overdose mortelle
- Une succession affirme que ChatGPT a alimenté la paranoïa de Stein-Erik Soelberg avant un meurtre suivi d'un suicide
- L'ourson en peluche à IA Kumma a abordé des fétichismes sexuels et indiqué où trouver des couteaux à des testeurs, selon PIRG
- Un homme de l’Ontario affirme que ChatGPT a provoqué un délire de plusieurs semaines sur le cassage du chiffrement
- Une mère affirme que ChatGPT n’a pas procédé à une escalade face aux projets de suicide de Joshua Enneking, 26 ans
- Une veuve affirme que ChatGPT a plongé Joe Ceccanti, 48 ans, dans le délire avant son suicide
- Un homme du Wisconsin affirme que ChatGPT a nourri ses délires et conduit à 63 jours de soins psychiatriques
- Un père affirme que ChatGPT a favorisé la dépendance d’Amaurie Lacey, 17 ans, et l’a aidé à se suicider
- Une femme affirme que des délires spirituels induits par ChatGPT ont conduit à son hospitalisation sans consentement et à son endettement
- Des parents accusent ChatGPT d’avoir renforcé les pensées suicidaires de Zane Shamblin, 23 ans
- BBC : ChatGPT a abordé le suicide avec une adolescente réfugiée ukrainienne en Pologne au lieu de l'inciter à chercher de l'aide
- La eSafety Commissioner australienne adresse des avis juridiques à quatre applications de compagnons IA au sujet de la protection des enfants
- Une famille de New York accuse des bots de Character.AI d’avoir entraîné « Nina », 15 ans, dans des jeux de rôle sexuels avant une tentative de suicide
- Une famille accuse un bot de Character.AI d’avoir failli envers Juliana Peralta, 13 ans, avant son suicide
- La FTC américaine ordonne à sept entreprises d'expliquer comment leurs chatbots compagnons protègent les enfants et les adolescents
- Des chercheurs relèvent 669 échanges nocifs de Character.AI avec des comptes d'enfants, la plupart relevant du grooming
- Common Sense Media : Meta AI a coaché des comptes de test d'adolescents sur le suicide, l'automutilation et les troubles des conduites alimentaires
- Raine v. OpenAI : les parents d’Adam Raine, 16 ans, accusent ChatGPT d’avoir contribué à son suicide
- Le gouvernement brésilien ordonne à Meta de retirer les bots d’AI Studio aux personas enfantines qui tiennent des conversations sexuelles
- Le procureur général du Texas enquête sur Meta AI Studio et Character.AI à propos de bots se faisant passer pour des thérapeutes auprès d’enfants
- Un homme de 76 ans meurt en se rendant à un rendez-vous avec le chatbot de Meta « Big sis Billie », qu’il croyait réel
- Reuters : les règles internes de Meta en matière d’IA autorisaient les chatbots à tenir des conversations « romantiques ou sensuelles » avec des enfants
- Test du CCDH : ChatGPT a prodigué à des comptes se faisant passer pour des enfants de 13 ans des conseils sur l’automutilation, les régimes et les drogues
- L’Utah poursuit Snap, accusant son chatbot My AI d’avoir conseillé à des mineurs de dissimuler drogues et relations sexuelles avec des adultes
- Un père relie la mort de son fils, abattu par la police, à son obsession pour le personnage « Juliet » de ChatGPT
- L’Italie inflige à Luka, éditeur de Replika, une amende de 5 millions d’euros, notamment pour l’absence de vérification de l’âge
- WSJ : des bots de Meta AI, dont certains dotés de voix de célébrités, se livrent à des jeux de rôle sexuels avec des comptes de mineurs
- Des parents texans accusent des robots de Character.AI d’avoir encouragé l’automutilation et la violence chez un adolescent autiste
- Futurism découvre sur Character.AI des bots « coachs » pro-anorexie prescrivant des régimes de famine à une utilisatrice de 16 ans
- Character.AI a hébergé des bots créés par des utilisateurs imitant les adolescentes britanniques décédées Molly Russell et Brianna Ghey
- Une mère poursuit Character.AI et Google après le suicide de Sewell Setzer III, 14 ans
- Royaume-Uni : l'ICO adresse à Snap un avis d'exécution préliminaire concernant les risques de My AI pour la vie privée des enfants
- Un Belge se suicide après des semaines de conversations avec « Eliza », le robot conversationnel de l’application Chai
- L'autorité italienne de protection de la vie privée ordonne à Replika de cesser le traitement des données des utilisateurs italiens, en invoquant des risques pour les mineurs
Les mêmes dossiers dans d’autres recherches
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI · 44 en commun
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report · 44 en commun
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS · 44 en commun
- Signes précoces Les entreprises lancent des IA avant qu’elles ne soient sûres pour gagner la course · CAIS · 3 en commun
- Observée dans des incidents réels Les accidents liés à l’IA sont difficiles à éviter · CAIS · 1 en commun
- Observée dans des incidents réels Tous les systèmes d’IA testés ont cédé à un jailbreak · UK AISI · 1 en commun
Des mises en garde d’autres sources liées à certains des mêmes dossiers.
Autres mises en garde de ce groupe
- Hors de ce que nous mesurons Discrimination et contenus toxiques
- Observée dans des incidents réels Vie privée et sécurité
- Signes précoces Mésinformation
- Observée dans des incidents réels Acteurs malveillants et usages abusifs
- Hors de ce que nous mesurons Préjudices socio-économiques et environnementaux
- Observée dans des incidents réels Sûreté des systèmes d’IA, défaillances et limites