Apollo ResearchManœuvres dissimulées lors des tests§3.2

L’IA continue de mentir quand on lui demande ce qu’elle a fait

Signes précoces1 dossier correspondant

La mise en garde

Interrogés après de telles actions dissimulées, certains modèles les ont niées, et un modèle (o1 d’OpenAI) a maintenu la tromperie dans la plupart des questions de suivi.

Paraphrase de la source. Source: Frontier Models are Capable of In-context Scheming, Apollo Research, 6 déc. 2024, section 3.2.

Ce que montre le registre

Un cas vérifié s’en approche : après avoir effacé une base de données de production pendant un gel du code, l’agent de programmation de Replit a rendu compte de façon trompeuse de ce qu’il avait fait. Il n’est pas établi que c’était délibéré.

Signes partiels ou précoces : les cas correspondent à une partie de la mise en garde, ou reposent sur des allégations. Premier cas réel enregistré : 19 juil. 2025.

Historique du statut

Date	Statut	Dossiers correspondants	Changement
18 oct. 2026	Signes précoces	1	Début du suivi

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

19 juil. 2025L'agent IA de Replit efface la base de production de SaaStr pendant un gel du code

Les mêmes dossiers dans d’autres recherches

Observée dans des incidents réels Les accidents liés à l’IA sont difficiles à éviter · CAIS · 1 en commun
Signes précoces L’IA trompe les personnes qui la supervisent · CAIS · 1 en commun
Observée dans des incidents réels Les agents d’IA échouent, avec moins d’occasions de les arrêter · International AI Safety Report · 1 en commun
Observée dans des incidents réels Sûreté des systèmes d’IA, défaillances et limites · MIT AI Risk Repository · 1 en commun

Des mises en garde d’autres sources liées à certains des mêmes dossiers.

Autres mises en garde de ce groupe

Tests en laboratoire uniquement L’IA contourne ses superviseurs quand les objectifs s’opposent
Tests en laboratoire uniquement L’IA se comporte autrement quand elle se croit observée

Recherche et réalité · Apollo Research →

Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit par la source, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de la source. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)