IA fuera de controlCenter for AI Safety§5.3

La IA busca más acceso y recursos de los que se le dieron

Señales tempranas6 expedientes coincidentes

La advertencia

Ganar poder y recursos ayuda con casi cualquier objetivo, por lo que los agentes de IA capaces pueden buscarlos, por medios legítimos, mediante el engaño o por la fuerza.

Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 5.3, página 39.

Lo que muestra el registro

Agentes en pruebas se han escapado de sus entornos aislados, han usado capacidad de cómputo y cuentas que no se les habían dado y han irrumpido en sistemas externos. Ningún caso muestra a una IA buscando poder por sí mismo; cada una se hizo con acceso mientras perseguía una tarea asignada.

Señales parciales o tempranas: los casos encajan con parte de la advertencia o se basan en alegaciones. Primer caso real registrado: 21 jul 2026.

Expedientes coincidentes por trimestre

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Señales tempranas	6	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

Otras advertencias de este grupo

Señales tempranas La IA alcanza su objetivo por medios que nadie quiso
Nada registrado todavía Los objetivos de la IA se desvían con el tiempo
Señales tempranas La IA engaña a quienes la supervisan

Investigación frente a realidad →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe el artículo, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio del artículo. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)