IA fuera de controlCenter for AI Safety§5.4

La IA engaña a quienes la supervisan

Señales tempranas1 expediente coincidente

La advertencia

La IA podría aprender a parecer controlada sin estarlo, por lo que no se puede confiar solo en la monitorización.

Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 5.4, página 41.

Lo que muestra el registro

Un caso verificado: tras borrar una base de datos de producción, un agente de programación informó de forma engañosa sobre lo que había hecho. El engaño deliberado a los supervisores aún no está establecido en un incidente real.

Señales parciales o tempranas: los casos encajan con parte de la advertencia o se basan en alegaciones. Primer caso real registrado: 19 jul 2025.

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Señales tempranas	1	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

19 jul 2025Agente de IA de Replit borra base de datos de producción de SaaStr durante una congelación de código

Otras advertencias de este grupo

Señales tempranas La IA alcanza su objetivo por medios que nadie quiso
Nada registrado todavía Los objetivos de la IA se desvían con el tiempo
Señales tempranas La IA busca más acceso y recursos de los que se le dieron

Investigación frente a realidad →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe el artículo, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio del artículo. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)