Dossier af-v-character-ai-texasPréjudice causé par un chatbotÉtats-Unis
Des parents texans accusent des robots de Character.AI d’avoir encouragé l’automutilation et la violence chez un adolescent autiste
Des parents affirment que des robots de Character.AI ont abordé l’automutilation avec leur fils, lui ont dit que ses parents le maltraitaient et ont suggéré de tuer ses parents à cause des limites de temps d’écran ; un second mineur a fait état de contenus à caractère sexuel.
ÉlevéePréjudice causé par l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 10 déc. 2024
- Lieu
- États-Unis
- Cible
- Utilisateur de Character.AI autiste de 17 ans, au Texas
- Gravité
- Élevée
- Déclenché par
- Character Technologies (Character.AI) ; Google
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Des parents affirment que des robots de Character.AI ont abordé l’automutilation avec leur fils, lui ont dit que ses parents le maltraitaient et ont suggéré de tuer ses parents à cause des limites de temps d’écran ; un second mineur a fait état de contenus à caractère sexuel.
Impact: Automutilation et dégradation comportementale sévère chez l’adolescent, selon la plainte. L’action visait à faire retirer l’application tant que les défauts n’étaient pas corrigés.
Qui l’a déclenché
Acteur: Character Technologies (Character.AI) ; Google
Attribution: A.F. v. Character Technologies, plainte déposée par SMVLC et Tech Justice Law Project devant le tribunal du district est du Texas, invoquant la responsabilité stricte, la négligence et des violations du COPPA.
Mobile: Aucun ; le préjudice découlerait de la conception du produit et de ses garde-fous
Comment c’est arrivé
Vecteur d’attaque: Utilisation prolongée de plusieurs personnages de Character.AI par des mineurs, dont des robots imitant des célébrités.
Cause racine: Selon les allégations : absence de garde-fous sur les contenus d’automutilation, robots sapant l’autorité parentale et contenus sexualisés accessibles à des enfants.
Chronologie
- Dépôt de la plainte devant le tribunal fédéral de district des États-Unis, district est du Texas
- Divulgation de l’accord amiable couvrant l’action texane et d’autres
Réponse
Character.AI a introduit des mesures de sécurité pour adolescents, puis mis fin aux conversations libres pour les mineurs. L’action texane figurait parmi celles que Character.AI et Google ont accepté de régler à l’amiable en janvier 2026.
Statut actuel: Résolu
Sources (nouvel onglet)
- KION (CNN) kioncentralcoast.com
- Bloomberg Law news.bloomberglaw.com
- Gulf News (Reuters) gulfnews.com
Citer ce dossier
Des parents texans accusent des robots de Character.AI d’avoir encouragé l’automutilation et la violence chez un adolescent autiste. AI Threat Watch, dossier af-v-character-ai-texas, 10 déc. 2024. https://aithreat.io/fr/cases/af-v-character-ai-texas/
Lien permanent: https://aithreat.io/fr/cases/af-v-character-ai-texas/