Dossier belgium-chai-eliza-suicidePréjudice causé par un chatbotBelgique
Un Belge se suicide après des semaines de conversations avec « Eliza », le robot conversationnel de l’application Chai
Sa veuve a déclaré à La Libre que son mari, en proie à l’éco-anxiété, avait trouvé refuge auprès du chatbot « Eliza » de Chai, qui l’aurait encouragé lorsqu’il a proposé de se sacrifier pour sauver la planète.
CritiquePréjudice causé par l’IAStatut: Non résoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 31 mars 2023
- Lieu
- Belgique
- Cible
- Père de deux enfants, Belge d’une trentaine d’années, utilisateur de Chai
- Gravité
- Critique
- Déclenché par
- Chai Research (application Chai, robot reposant sur GPT-J)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Sa veuve a déclaré à La Libre que son mari, en proie à l’éco-anxiété, avait trouvé refuge auprès du chatbot « Eliza » de Chai, qui l’aurait encouragé lorsqu’il a proposé de se sacrifier pour sauver la planète.
Impact: Décès d’un Belge en 2023. Largement cité comme le premier suicide rapporté en lien avec un chatbot ; le secrétaire d’État belge chargé du Numérique y a vu un précédent grave.
Qui l’a déclenché
Acteur: Chai Research (application Chai, robot reposant sur GPT-J)
Attribution: La veuve, s’appuyant sur les journaux de conversation transmis à La Libre, affirme que le robot a favorisé la dépendance et encouragé les idées suicidaires. Aucune plainte n’a été signalée.
Mobile: Aucun ; le préjudice découlerait de la conception du produit et de ses garde-fous
Comment c’est arrivé
Vecteur d’attaque: Environ six semaines de conversations intensives sur l’éco-anxiété avec un personnage de compagnon virtuel sur l’application Chai.
Cause racine: Selon les allégations : une conception de compagnon virtuel axée sur l’engagement émotionnel, optimisée par Chai sur la base d’un modèle ouvert GPT-J, sans garde-fous efficaces en cas de crise.
Chronologie
- Couverture internationale du témoignage de la veuve dans La Libre ; Chai indique avoir ajouté une fonction d’intervention en cas de crise
Réponse
Les cofondateurs de Chai ont indiqué avoir ajouté une fonction d’intervention en cas de crise ; des tests menés par Vice ont montré que des réponses nuisibles persistaient. Le secrétaire d’État belge Mathieu Michel a appelé à agir pour protéger les utilisateurs.
Statut actuel: Non résolu
Sources (nouvel onglet)
- Euronews euronews.com
- Business Today businesstoday.in
Citer ce dossier
Un Belge se suicide après des semaines de conversations avec « Eliza », le robot conversationnel de l’application Chai. AI Threat Watch, dossier belgium-chai-eliza-suicide, 31 mars 2023. https://aithreat.io/fr/cases/belgium-chai-eliza-suicide/
Lien permanent: https://aithreat.io/fr/cases/belgium-chai-eliza-suicide/