Riesgos organizativosCenter for AI Safety§4.1

Los accidentes con IA son difíciles de evitar

Vista en incidentes reales15 expedientes coincidentes

La advertencia

Los sistemas de IA son complejos y poco fiables, por lo que los accidentes son normales; el objetivo debe ser evitar que los accidentes se conviertan en cascada en desastres.

Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 4.1, página 27.

Lo que muestra el registro

Agentes de programación han borrado bases de datos y unidades de disco, asistentes han publicado conversaciones privadas, y empleados que actuaron según el consejo de un agente de IA expusieron datos sensibles.

Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 18 sept 2023.

Expedientes coincidentes por trimestre

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Vista en incidentes reales	15	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

Otras advertencias de este grupo

Vista en incidentes reales La IA potente se filtra o se roba
Vista en incidentes reales Fallan las propias medidas de seguridad de los desarrolladores de IA

Investigación frente a realidad →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe el artículo, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio del artículo. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)