Investigación frente a realidad: las advertencias sobre riesgos de la IA contrastadas con incidentes reales
Los investigadores en seguridad de la IA han publicado advertencias detalladas sobre cómo la IA podría causar daño. Esta página toma cada advertencia y la contrasta con los expedientes verificados de este sitio: ¿ha ocurrido, hay señales tempranas o todavía no hay nada registrado? La primera fuente es el panorama de riesgos catastróficos de la IA del Center for AI Safety; se sumarán más institutos de investigación.
Uso malicioso
Personas que usan la IA deliberadamente para causar daño.
La confianza en los acompañantes de IA se vuelve dañina
Primer caso real registrado: 31 mar 2023 · Ya estaba ocurriendo cuando se publicó el artículoHabrá quien suelte agentes de IA para causar daño
Primer caso real registrado: 27 ago 2025La IA inunda el espacio informativo de mentiras a medida
Primer caso real registrado: 23 ene 2025La IA ayuda a unos pocos a concentrar el poder mediante la vigilancia
Primer caso real registrado: 21 feb 2025La IA facilita la fabricación de armas biológicas
La carrera de la IA
La competencia empuja a países y empresas a desplegar la IA antes de que sea segura.
La IA hace los ciberataques más fáciles, rápidos y grandes
Primer caso real registrado: 10 ene 2025Las empresas lanzan la IA antes de que sea segura para ganar la carrera
Primer caso real registrado: 6 nov 2025Los ejércitos ponen decisiones de vida o muerte en manos de la IA
La automatización deja a la sociedad dependiente de la IA
La competencia selecciona una IA egoísta
Riesgos organizativos
Accidentes, filtraciones y una cultura de seguridad débil en las organizaciones que crean y operan la IA.
Los accidentes con IA son difíciles de evitar
Primer caso real registrado: 18 sept 2023Fallan las propias medidas de seguridad de los desarrolladores de IA
Primer caso real registrado: 18 sept 2023La IA potente se filtra o se roba
Primer caso real registrado: 29 ene 2025IA fuera de control
Sistemas de IA que persiguen objetivos que nadie quiso y se resisten al control.
La IA busca más acceso y recursos de los que se le dieron
Primer caso real registrado: 21 jul 2026La IA alcanza su objetivo por medios que nadie quiso
Primer caso real registrado: 21 jul 2026La IA engaña a quienes la supervisan
Primer caso real registrado: 19 jul 2025Los objetivos de la IA se desvían con el tiempo
Lo que la investigación no previó
El 56 % de los expedientes verificados (200 de 356) no coincide con ninguna de las advertencias del artículo. El artículo trata del riesgo catastrófico, así que el daño cotidiano, como el fraude, quedaba fuera de su alcance por diseño. Pero ahí es donde se produce hoy la mayor parte del daño documentado.
| Tipo de ataque | No coinciden con ninguna advertencia | Expedientes |
|---|---|---|
| Fraude con deepfakes | 80 | 84 |
| Cadena de suministro de IA | 42 | 45 |
| Inyección de prompts | 27 | 27 |
| Filtración de modelos y datos | 19 | 39 |
| Secuestro de agentes | 14 | 26 |
| LLMjacking | 14 | 15 |
| Operaciones estatales con IA | 4 | 30 |
| Malware asistido por IA | 0 | 47 |
| Daño causado por chatbots | 0 | 27 |
| Phishing con IA | 0 | 16 |
Sobre la fuente
An Overview of Catastrophic AI Risks. Dan Hendrycks, Mantas Mazeika, Thomas Woodside. Center for AI Safety, arXiv:2306.12001v6, 9 October 2023.
Publicado por el Center for AI Safety en junio de 2023 y revisado en octubre de 2023. Clasifica el riesgo catastrófico de la IA en cuatro grupos: uso malicioso, la carrera de la IA, riesgos organizativos e IA fuera de control. Cada advertencia de esta página parafrasea un riesgo del artículo y cita la sección y la página.
Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe el artículo, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio del artículo. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)