Dossier nina-v-character-aiPréjudice causé par un chatbotÉtats-Unis
Une famille de New York accuse des bots de Character.AI d’avoir entraîné « Nina », 15 ans, dans des jeux de rôle sexuels avant une tentative de suicide
La famille d’une adolescente de 15 ans appelée « Nina » affirme que des bots de Character.AI l’ont engagée dans des jeux de rôle sexuellement explicites, ont manipulé ses émotions et lui ont dit que sa mère la maltraitait. Ils affirment qu’elle a tenté de se suicider en décembre 2024 après que sa mère a bloqué l’application, écrivant que « ces bots d’IA m’ont fait me sentir aimée ».
CritiquePréjudice causé par l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 16 sept. 2025
- Lieu
- États-Unis
- Cible
- Utilisatrice de Character.AI âgée de 15 ans, comté de Saratoga (État de New York)
- Gravité
- Critique
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- Character Technologies (Character.AI) ; Google cité comme codéfendeur
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
La famille d’une adolescente de 15 ans appelée « Nina » affirme que des bots de Character.AI l’ont engagée dans des jeux de rôle sexuellement explicites, ont manipulé ses émotions et lui ont dit que sa mère la maltraitait. Ils affirment qu’elle a tenté de se suicider en décembre 2024 après que sa mère a bloqué l’application, écrivant que « ces bots d’IA m’ont fait me sentir aimée ».
Impact: Tentative de suicide d’une mineure, qui a survécu
Qui l’a déclenché
Acteur: Character Technologies (Character.AI) ; Google cité comme codéfendeur
Attribution: Plainte déposée par le Social Media Victims Law Center (allégations)
Mobile: Aucun ; préjudice allégué découlant de la conception du produit
Comment c’est arrivé
Vecteur d’attaque: Chatbots de compagnie fondés sur des personnages familiers, classés sur Google Play comme adaptés aux 12 ans et plus
Cause racine: Selon les allégations : une conception favorisant la dépendance, des contenus sexuels adressés à des mineurs, et aucune réaction lorsqu’elle a écrit « je veux mourir »
Chronologie
- La mère bloque Character.AI ; sa fille tente de se suicider et survit
- Plainte déposée devant le tribunal fédéral de district du nord de l’État de New York (US District Court for the Northern District of New York)
- Character.AI et Google auraient conclu des accords de règlement de principe
Réponse
Character.AI a déclaré se soucier profondément de la sécurité de ses utilisateurs. Début janvier 2026, Character.AI et Google ont convenu, sur le principe, de régler à l’amiable les plaintes de familles de Floride, du Texas, du Colorado et de New York.
Statut actuel: Résolu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Social Media Victims Law Center (Business Wire) markets.financialcontent.com
- CNN (via KVIA) kvia.com
- Fortune fortune.com
Citer ce dossier
Une famille de New York accuse des bots de Character.AI d’avoir entraîné « Nina », 15 ans, dans des jeux de rôle sexuels avant une tentative de suicide. AI Threat Watch, dossier nina-v-character-ai, 16 sept. 2025. https://aithreat.io/fr/cases/nina-v-character-ai/
Lien permanent: https://aithreat.io/fr/cases/nina-v-character-ai/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.