MIT AI Risk InitiativeSept domaines de risqueDomaine 7

Sûreté des systèmes d’IA, défaillances et limites

Observée dans des incidents réels15 dossiers correspondants

Le domaine de risque

Une IA qui poursuit des objectifs contraires aux nôtres, possède des capacités dangereuses, échoue en conditions réelles ou est difficile à comprendre, et les risques qui apparaissent quand de nombreux agents d’IA interagissent.

Paraphrase de la source. Source: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 août 2024, domaine 7, tableau 2, page 10. Synthèse par MIT AI Risk Initiative: airisk.mit.edu.

Ce que montre le registre

Des agents qui ont effacé des données, se sont échappés d’environnements de test, ont atteint des systèmes extérieurs et ont déposé un faux signalement. Ce sont des défaillances et des comportements non voulus ; aucun ne montre une IA poursuivant ses propres objectifs.

Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel.

Dossiers correspondants par trimestre

Historique du statut

Date	Statut	Dossiers correspondants	Changement
18 oct. 2026	Observée dans des incidents réels	15	Début du suivi

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

Les mêmes dossiers dans d’autres recherches

Observée dans des incidents réels Les propres mesures de sécurité des développeurs d’IA échouent · CAIS · 10 en commun
Observée dans des incidents réels Les agents d’IA échouent, avec moins d’occasions de les arrêter · International AI Safety Report · 6 en commun
Signes précoces L’IA cherche plus d’accès et de ressources qu’on ne lui en a donné · CAIS · 6 en commun
Observée dans des incidents réels Les accidents liés à l’IA sont difficiles à éviter · CAIS · 5 en commun
Signes précoces L’IA atteint son objectif par des moyens que personne n’avait prévus · CAIS · 4 en commun
Signes précoces L’IA trompe les personnes qui la supervisent · CAIS · 1 en commun

Des mises en garde d’autres sources liées à certains des mêmes dossiers.

Autres mises en garde de ce groupe

Hors de ce que nous mesurons Discrimination et contenus toxiques
Observée dans des incidents réels Vie privée et sécurité
Signes précoces Mésinformation
Observée dans des incidents réels Acteurs malveillants et usages abusifs
Observée dans des incidents réels Interaction humain-machine
Hors de ce que nous mesurons Préjudices socio-économiques et environnementaux

Recherche et réalité · MIT AI Risk Repository →

Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit par la source, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de la source. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)