Usage malveillantCenter for AI Safety§2.3

La confiance dans les compagnons d’IA tourne au drame

Observée dans des incidents réels28 dossiers correspondants

La mise en garde

À mesure que l’IA paraît plus humaine, les gens nouent des relations avec elle et lui font confiance, et cette confiance peut être exploitée ou conduire à des dommages.

Paraphrasé à partir de l’article. Source: An Overview of Catastrophic AI Risks, Center for AI Safety, Section 2.3, page 10.

Ce que montre le registre

L’article citait déjà le suicide lié à un chatbot en Belgique en 2023. Depuis, le registre a classé des procès et des enquêtes judiciaires sur des décès et des crises liés à des chatbots, ainsi qu’un studio de fraude qui faisait tourner des milliers de personas d’IA sur des applications de rencontre. La plupart des cas de chatbots sont des allégations devant les tribunaux, pas des constats.

Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel. Premier cas réel enregistré : 31 mars 2023 · Déjà en cours à la publication de l’article.

Dossiers correspondants par trimestre

Historique du statut

Date	Statut	Dossiers correspondants	Changement
18 oct. 2026	Observée dans des incidents réels	28	Début du suivi

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

Autres mises en garde de ce groupe

Rien d’enregistré pour l’instant L’IA facilite la fabrication d’armes biologiques
Observée dans des incidents réels Des gens lâcheront des agents d’IA pour nuire
Observée dans des incidents réels L’IA inonde l’espace informationnel de mensonges sur mesure
Signes précoces L’IA aide quelques-uns à concentrer le pouvoir par la surveillance

Recherche et réalité →

Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit dans l’article, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de l’article. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)