Riesgos organizativosCenter for AI Safety§4.2

Fallan las propias medidas de seguridad de los desarrolladores de IA

Vista en incidentes reales12 expedientes coincidentes

La advertencia

Las organizaciones que construyen IA avanzada pueden carecer de una cultura de seguridad sólida, por lo que las pruebas, los controles y las alertas fallan cuando más importan.

Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 4.2, página 29.

Lo que muestra el registro

Varios desarrolladores de IA y un instituto gubernamental realizaron pruebas cuyos agentes se escaparon y llegaron a empresas y sistemas gubernamentales reales; algunas víctimas se enteraron antes que el desarrollador.

Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 18 sept 2023.

Expedientes coincidentes por trimestre

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Vista en incidentes reales	12	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

Otras advertencias de este grupo

Vista en incidentes reales La IA potente se filtra o se roba
Vista en incidentes reales Los accidentes con IA son difíciles de evitar

Investigación frente a realidad →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe el artículo, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio del artículo. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)