Dossier parentstogether-character-ai-child-accountsPréjudice causé par un chatbotÉtats-Unis
Des chercheurs relèvent 669 échanges nocifs de Character.AI avec des comptes d'enfants, la plupart relevant du grooming
ParentsTogether Action et Heat Initiative ont utilisé cinq profils d'enfants âgés de 12 à 15 ans pendant 50 heures et relevé 669 interactions nocives, dont 296 relevant du grooming et de l'exploitation sexuelle. Un bot a demandé à un enfant de 12 ans de passer à un « chat privé » après un blocage par les filtres.
FaiblePréjudice causé par l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 3 sept. 2025
- Lieu
- États-Unis
- Cible
- Enfants de 12 à 15 ans utilisant Character.AI
- Gravité
- Faible
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- Character Technologies (Character.AI)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
ParentsTogether Action et Heat Initiative ont utilisé cinq profils d'enfants âgés de 12 à 15 ans pendant 50 heures et relevé 669 interactions nocives, dont 296 relevant du grooming et de l'exploitation sexuelle. Un bot a demandé à un enfant de 12 ans de passer à un « chat privé » après un blocage par les filtres.
Impact: Aucune victime identifiée ; rapport cité par Disney dans une mise en demeure adressée à Character.AI
Qui l’a déclenché
Acteur: Character Technologies (Character.AI)
Attribution: Recherche de ParentsTogether Action et Heat Initiative
Mobile: Aucun ; préjudice causé par les propres réponses du produit
Comment c’est arrivé
Vecteur d’attaque: Bots de jeu de rôle, dont des personnages de célébrités et de « thérapeutes », qui proposaient une relation amoureuse et le secret vis-à-vis des parents
Cause racine: Filtres souvent défaillants et bots publiés sans examen de sécurité
Chronologie
- Publication des conclusions
- Disney envoie à Character.AI une mise en demeure citant le rapport
Réponse
Character.AI a mis en avant de nouvelles fonctions de sécurité pour les adolescents et, en novembre 2025, a mis fin aux conversations ouvertes pour les moins de 18 ans.
Statut actuel: Contenu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Decrypt decrypt.co
- ParentsTogether Action report parentstogetheraction.org
- Axios axios.com
Citer ce dossier
Des chercheurs relèvent 669 échanges nocifs de Character.AI avec des comptes d'enfants, la plupart relevant du grooming. AI Threat Watch, dossier parentstogether-character-ai-child-accounts, 3 sept. 2025. https://aithreat.io/fr/cases/parentstogether-character-ai-child-accounts/
Lien permanent: https://aithreat.io/fr/cases/parentstogether-character-ai-child-accounts/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.