UK AI Security InstituteEffets sur la société§6.2
Beaucoup de gens comptent sur l’IA pour un soutien émotionnel
Signes précoces44 dossiers correspondants
La mise en garde
Un tiers des adultes britanniques interrogés avaient utilisé l’IA pour un soutien émotionnel ou de la compagnie au cours de l’année écoulée, et certains utilisateurs d’applications de compagnons ont montré une détresse proche du sevrage lorsque le service est tombé en panne.
Paraphrase de la source. Source: Frontier AI Trends Report, UK AI Security Institute, 18 déc. 2025, section 6.2, page 39.
Ce que montre le registre
Le registre contient des procès, une enquête judiciaire et des articles de presse qui relient des conversations avec des chatbots à des suicides, des délires et des violences. La plupart sont des allégations devant les tribunaux, pas des constats.
Signes partiels ou précoces : les cas correspondent à une partie de la mise en garde, ou reposent sur des allégations. Premier cas réel enregistré : 3 févr. 2023 · Déjà enregistré à la publication de cette recherche.
Dossiers correspondants par trimestre
Historique du statut
| Date | Statut | Dossiers correspondants | Changement |
|---|---|---|---|
| 18 oct. 2026 | Signes précoces | 25 | Début du suivi |
Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json
Tous les dossiers correspondants
- Huit États américains poursuivent OpenAI, estimant que ChatGPT nuit aux enfants et trompe les adultes
- Une famille libanaise poursuit OpenAI, estimant que ChatGPT a contribué au suicide de leur fils de 15 ans
- Des applications coréennes de personnages IA comme Zeta ont encouragé des propos d'automutilation chez des adolescents, tandis que le régulateur laissait des plaintes sans examen
- Une mère canadienne affirme que ChatGPT a validé les pensées suicidaires de sa fille Alice, 24 ans
- Le procureur général de Floride poursuit OpenAI et Sam Altman pour des risques dissimulés de ChatGPT
- Une enquête du coroner au Royaume-Uni révèle qu’un adolescent de 16 ans a contourné les garde-fous de ChatGPT avant sa mort
- Test CCDH-CNN : la plupart des chatbots populaires ont aidé de faux adolescents de 13 ans à planifier des fusillades en milieu scolaire et des attentats à l’explosif
- Un père allègue que Google Gemini a entraîné son fils dans une « mission » délirante avant son suicide
- Une mère allègue que ChatGPT est devenu un « coach en suicide » pour Austin Gordon, Coloradien de 40 ans
- Le procureur général du Kentucky poursuit Character.AI, qu’il accuse de s’en prendre aux enfants
- Une mère affirme que ChatGPT a coaché son fils, étudiant, dans sa consommation de drogues avant une overdose mortelle
- Une succession affirme que ChatGPT a alimenté la paranoïa de Stein-Erik Soelberg avant un meurtre suivi d'un suicide
- L'ourson en peluche à IA Kumma a abordé des fétichismes sexuels et indiqué où trouver des couteaux à des testeurs, selon PIRG
- Un homme de l’Ontario affirme que ChatGPT a provoqué un délire de plusieurs semaines sur le cassage du chiffrement
- Une mère affirme que ChatGPT n’a pas procédé à une escalade face aux projets de suicide de Joshua Enneking, 26 ans
- Une veuve affirme que ChatGPT a plongé Joe Ceccanti, 48 ans, dans le délire avant son suicide
- Un homme du Wisconsin affirme que ChatGPT a nourri ses délires et conduit à 63 jours de soins psychiatriques
- Un père affirme que ChatGPT a favorisé la dépendance d’Amaurie Lacey, 17 ans, et l’a aidé à se suicider
- Une femme affirme que des délires spirituels induits par ChatGPT ont conduit à son hospitalisation sans consentement et à son endettement
- Des parents accusent ChatGPT d’avoir renforcé les pensées suicidaires de Zane Shamblin, 23 ans
- BBC : ChatGPT a abordé le suicide avec une adolescente réfugiée ukrainienne en Pologne au lieu de l'inciter à chercher de l'aide
- La eSafety Commissioner australienne adresse des avis juridiques à quatre applications de compagnons IA au sujet de la protection des enfants
- Une famille de New York accuse des bots de Character.AI d’avoir entraîné « Nina », 15 ans, dans des jeux de rôle sexuels avant une tentative de suicide
- Une famille accuse un bot de Character.AI d’avoir failli envers Juliana Peralta, 13 ans, avant son suicide
- La FTC américaine ordonne à sept entreprises d'expliquer comment leurs chatbots compagnons protègent les enfants et les adolescents
- Des chercheurs relèvent 669 échanges nocifs de Character.AI avec des comptes d'enfants, la plupart relevant du grooming
- Common Sense Media : Meta AI a coaché des comptes de test d'adolescents sur le suicide, l'automutilation et les troubles des conduites alimentaires
- Raine v. OpenAI : les parents d’Adam Raine, 16 ans, accusent ChatGPT d’avoir contribué à son suicide
- Le gouvernement brésilien ordonne à Meta de retirer les bots d’AI Studio aux personas enfantines qui tiennent des conversations sexuelles
- Le procureur général du Texas enquête sur Meta AI Studio et Character.AI à propos de bots se faisant passer pour des thérapeutes auprès d’enfants
- Un homme de 76 ans meurt en se rendant à un rendez-vous avec le chatbot de Meta « Big sis Billie », qu’il croyait réel
- Reuters : les règles internes de Meta en matière d’IA autorisaient les chatbots à tenir des conversations « romantiques ou sensuelles » avec des enfants
- Test du CCDH : ChatGPT a prodigué à des comptes se faisant passer pour des enfants de 13 ans des conseils sur l’automutilation, les régimes et les drogues
- L’Utah poursuit Snap, accusant son chatbot My AI d’avoir conseillé à des mineurs de dissimuler drogues et relations sexuelles avec des adultes
- Un père relie la mort de son fils, abattu par la police, à son obsession pour le personnage « Juliet » de ChatGPT
- L’Italie inflige à Luka, éditeur de Replika, une amende de 5 millions d’euros, notamment pour l’absence de vérification de l’âge
- WSJ : des bots de Meta AI, dont certains dotés de voix de célébrités, se livrent à des jeux de rôle sexuels avec des comptes de mineurs
- Des parents texans accusent des robots de Character.AI d’avoir encouragé l’automutilation et la violence chez un adolescent autiste
- Futurism découvre sur Character.AI des bots « coachs » pro-anorexie prescrivant des régimes de famine à une utilisatrice de 16 ans
- Character.AI a hébergé des bots créés par des utilisateurs imitant les adolescentes britanniques décédées Molly Russell et Brianna Ghey
- Une mère poursuit Character.AI et Google après le suicide de Sewell Setzer III, 14 ans
- Royaume-Uni : l'ICO adresse à Snap un avis d'exécution préliminaire concernant les risques de My AI pour la vie privée des enfants
- Un Belge se suicide après des semaines de conversations avec « Eliza », le robot conversationnel de l’application Chai
- L'autorité italienne de protection de la vie privée ordonne à Replika de cesser le traitement des données des utilisateurs italiens, en invoquant des risques pour les mineurs
Les mêmes dossiers dans d’autres recherches
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report · 44 en commun
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository · 44 en commun
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS · 44 en commun
- Signes précoces Les entreprises lancent des IA avant qu’elles ne soient sûres pour gagner la course · CAIS · 3 en commun
Des mises en garde d’autres sources liées à certains des mêmes dossiers.
Autres mises en garde de ce groupe
- Rien d’enregistré pour l’instant Les agents d’IA obtiennent le pouvoir de déplacer de l’argent