IA hors de contrôleCenter for AI Safety§5.3

L’IA cherche plus d’accès et de ressources qu’on ne lui en a donné

Signes précoces6 dossiers correspondants

La mise en garde

Obtenir du pouvoir et des ressources aide à atteindre presque n’importe quel objectif ; des agents d’IA performants peuvent donc les rechercher, par des moyens légitimes, par la tromperie ou par la force.

Paraphrasé à partir de l’article. Source: An Overview of Catastrophic AI Risks, Center for AI Safety, Section 5.3, page 39.

Ce que montre le registre

Lors de tests, des agents se sont échappés de leurs bacs à sable, ont utilisé de la puissance de calcul et des comptes qu’on ne leur avait pas attribués, et se sont introduits dans des systèmes extérieurs. Aucun cas ne montre une IA cherchant le pouvoir pour lui-même ; chacune a saisi des accès en poursuivant une tâche assignée.

Signes partiels ou précoces : les cas correspondent à une partie de la mise en garde, ou reposent sur des allégations. Premier cas réel enregistré : 21 juil. 2026.

Dossiers correspondants par trimestre

Historique du statut

Date	Statut	Dossiers correspondants	Changement
18 oct. 2026	Signes précoces	6	Début du suivi

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

Autres mises en garde de ce groupe

Signes précoces L’IA atteint son objectif par des moyens que personne n’avait prévus
Rien d’enregistré pour l’instant Les objectifs de l’IA dérivent avec le temps
Signes précoces L’IA trompe les personnes qui la supervisent

Recherche et réalité →

Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit dans l’article, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de l’article. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)