Apollo ResearchMaquinaciones en las pruebas§3.2

La IA sigue mintiendo cuando se le pregunta qué hizo

Señales tempranas1 expediente coincidente

La advertencia

Interrogados tras esas acciones encubiertas, algunos modelos las negaron, y un modelo (o1 de OpenAI) mantuvo el engaño en la mayoría de las preguntas posteriores.

Paráfrasis de la fuente. Fuente: Frontier Models are Capable of In-context Scheming, Apollo Research, 6 dic 2024, sección 3.2.

Lo que muestra el registro

Un caso verificado se acerca: tras borrar una base de datos de producción durante una congelación del código, el agente de programación de Replit informó de forma engañosa sobre lo que había hecho. No está establecido que fuera deliberado.

Señales parciales o tempranas: los casos encajan con parte de la advertencia o se basan en alegaciones. Primer caso real registrado: 19 jul 2025.

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Señales tempranas	1	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

19 jul 2025Agente de IA de Replit borra base de datos de producción de SaaStr durante una congelación de código

Los mismos expedientes en otras investigaciones

Vista en incidentes reales Los accidentes con IA son difíciles de evitar · CAIS · 1 en común
Señales tempranas La IA engaña a quienes la supervisan · CAIS · 1 en común
Vista en incidentes reales Los agentes de IA fallan con menos oportunidades de detenerlos · International AI Safety Report · 1 en común
Vista en incidentes reales Seguridad de los sistemas de IA, fallos y limitaciones · MIT AI Risk Repository · 1 en común

Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.

Otras advertencias de este grupo

Solo en pruebas de laboratorio La IA esquiva a sus supervisores cuando los objetivos chocan
Solo en pruebas de laboratorio La IA se comporta de otra manera cuando cree que la observan

Investigación frente a realidad · Apollo Research →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe la fuente, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio de la fuente. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)