Recherche et réalité : les mises en garde sur les risques de l’IA confrontées aux incidents réels
Des chercheurs en sécurité de l’IA ont publié des mises en garde détaillées sur la façon dont l’IA pourrait causer des dommages. Cette page reprend chaque mise en garde et la confronte aux dossiers vérifiés de ce site : s’est-elle produite, y a-t-il des signes précoces, ou n’y a-t-il encore rien d’enregistré ? La première source est la synthèse du Center for AI Safety sur les risques catastrophiques de l’IA ; d’autres instituts de recherche suivront.
Usage malveillant
Des personnes qui utilisent délibérément l’IA pour nuire.
La confiance dans les compagnons d’IA tourne au drame
Premier cas réel enregistré : 31 mars 2023 · Déjà en cours à la publication de l’articleDes gens lâcheront des agents d’IA pour nuire
Premier cas réel enregistré : 27 août 2025L’IA inonde l’espace informationnel de mensonges sur mesure
Premier cas réel enregistré : 23 janv. 2025L’IA aide quelques-uns à concentrer le pouvoir par la surveillance
Premier cas réel enregistré : 21 févr. 2025L’IA facilite la fabrication d’armes biologiques
Course à l’IA
La concurrence pousse États et entreprises à déployer l’IA avant qu’elle ne soit sûre.
L’IA rend les cyberattaques plus faciles, plus rapides et plus massives
Premier cas réel enregistré : 10 janv. 2025Les entreprises lancent des IA avant qu’elles ne soient sûres pour gagner la course
Premier cas réel enregistré : 6 nov. 2025Les armées confient des décisions de vie ou de mort à l’IA
L’automatisation rend la société dépendante de l’IA
La concurrence sélectionne des IA égoïstes
Risques organisationnels
Accidents, fuites et culture de sécurité défaillante dans les organisations qui conçoivent et exploitent l’IA.
Les accidents liés à l’IA sont difficiles à éviter
Premier cas réel enregistré : 18 sept. 2023Les propres mesures de sécurité des développeurs d’IA échouent
Premier cas réel enregistré : 18 sept. 2023Des IA puissantes sont divulguées ou volées
Premier cas réel enregistré : 29 janv. 2025IA hors de contrôle
Des systèmes d’IA qui poursuivent des objectifs que personne n’a voulus et résistent au contrôle.
L’IA cherche plus d’accès et de ressources qu’on ne lui en a donné
Premier cas réel enregistré : 21 juil. 2026L’IA atteint son objectif par des moyens que personne n’avait prévus
Premier cas réel enregistré : 21 juil. 2026L’IA trompe les personnes qui la supervisent
Premier cas réel enregistré : 19 juil. 2025Les objectifs de l’IA dérivent avec le temps
Ce que la recherche n’avait pas prévu
56 % des dossiers vérifiés (200 sur 356) ne correspondent à aucune des mises en garde de l’article. L’article traite des risques catastrophiques ; les dommages du quotidien, comme la fraude, étaient donc volontairement hors de son champ. Mais c’est là que se produit aujourd’hui l’essentiel des dégâts documentés.
| Type d’attaque | Ne correspondent à aucune mise en garde | Dossiers |
|---|---|---|
| Fraude par deepfake | 80 | 84 |
| Chaîne d’approvisionnement IA | 42 | 45 |
| Injection de prompt | 27 | 27 |
| Fuite de modèle et de données | 19 | 39 |
| Détournement d’agent | 14 | 26 |
| LLMjacking | 14 | 15 |
| Opérations étatiques avec l’IA | 4 | 30 |
| Malware assisté par IA | 0 | 47 |
| Préjudice causé par un chatbot | 0 | 27 |
| Hameçonnage par IA | 0 | 16 |
À propos de la source
An Overview of Catastrophic AI Risks. Dan Hendrycks, Mantas Mazeika, Thomas Woodside. Center for AI Safety, arXiv:2306.12001v6, 9 October 2023.
Publié par le Center for AI Safety en juin 2023 et révisé en octobre 2023. L’article classe les risques catastrophiques de l’IA en quatre groupes : l’usage malveillant, la course à l’IA, les risques organisationnels et l’IA hors de contrôle. Chaque mise en garde de cette page paraphrase un risque de l’article et cite la section et la page.
Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit dans l’article, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de l’article. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)