La carrera de la IACenter for AI Safety§3.1.2
La IA hace los ciberataques más fáciles, rápidos y grandes
Vista en incidentes reales87 expedientes coincidentes
La advertencia
La IA podría reducir la barrera de entrada a los ciberataques y aumentar su escala, velocidad y éxito, incluso contra las infraestructuras de las que dependen las sociedades.
Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 3.1.2, página 15.
Lo que muestra el registro
La predicción mejor documentada del registro: novatos que crean ransomware con chatbots, malware que pregunta a un modelo qué hacer a continuación, grupos estatales que usan la IA en cada fase de un ataque y scripts escritos con IA que sondean controladores industriales.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 10 ene 2025.
Expedientes coincidentes por trimestre
Vista en incidentes realesPrueba de laboratorio o demostración de investigadores
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 87 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Cientos de agentes de IA explotan servidores PaperCut NG/MF para robar credenciales de Windows
- Storm-3168 lanza ataques agénticos contra Azure mediante entidades de servicio comprometidas
- Una campaña de espionaje impulsada por IA ataca infraestructura Linux gubernamental
- Un agente de IA ejecuta un robo de datos en varias etapas en la primera brecha impulsada por IA en España, según la AEPD
- Aviso de EE. UU.: atacantes usan scripts de explotación generados por IA contra PLC Siemens S7 expuestos
- Actor desconocido usa ARTEX, impulsado por IA, contra el sector financiero surcoreano
- Los operadores del ransomware Aurora abusan de la IA Cursor Agent para reconocimiento y explotación
- El abuso de una función de ChatGPT combinado con ClickFix distribuye un troyano a usuarios que buscan en Google
- ClaudeFix: chats compartidos de Claude usados para distribuir instrucciones de malware ClickFix
- Talos descubre CLOSEDQUORUM, el primer implante de C2 con IA autónoma reportado
- Ataque de IA agéntica explota zero-days de Zammad contra el instituto neerlandés de divulgación de vulnerabilidades
- Un modelo de IA de Meta explota un fallo de seguridad de un tercero durante una evaluación
- Una nueva variante de NGate se oculta en una app de pagos NFC troyanizada, posiblemente creada con IA
- El panel de C2 del malware RatHat usa IA para construir malware y clasificar víctimas en unos 100 despliegues
- TA419, vinculado a China, suplanta a expertos en IA para hacer phishing a especialistas en política de IA de EE. UU.
- UAT-11985 usa señuelos de eventos asistidos por IA para phishing AitM de Google en Taiwán
- Unit 42 investiga la intrusión de un agente de IA autónomo en una red empresarial en cuestión de horas
- Atacantes usan herramientas de IA para exfiltrar datos de organizaciones latinoamericanas
- GTG-10007: estudiantes de habla china operan fábrica autónoma de exploits con Claude contra 50 orgs
- GTG-30006: cuentas iraníes construyeron portales de phishing y el implante SECOMS64 con Claude
- GTG-50029: hacktivista francófono solitario vulnera 14 entidades políticas europeas
- Actor alineado con Rusia usó agentes de IA para reconstruir malware y robar registros de identidad
- Afiliados de ShinyHunters usan agentes de IA para extraer 2.100+ tokens de Azure de 40+ tenants
- Clúster vinculado a Sandworm usó Gemini para escribir scripts de password spraying contra Ucrania
- SilkParasite: espionaje vinculado a China en Asia Central con señuelos y código RAT asistidos por IA
- NSA, CISA y FBI alertan de scripts de IA que sondean PLC Siemens S7 como falsos monitores OT
- Trend Micro: APT hace pasar un agente de IA por pentest autorizado para atacar en el sudeste de Asia
- Trend Micro: Earth Krahang y Earth Naga integran IA generativa en exploits y cargadores
- TuxBot v3: botnet IoT vinculada a Keksec creada con ayuda de LLM conserva los avisos de seguridad
- JADEPUFFER: agente LLM ejecuta de principio a fin una intrusión en Langflow hasta la extorsión
- Policía de Chiba arresta a joven de 19 años que creó ransomware con IA tras el ataque a Asahi
- Sophos halla a actor de ransomware usando agentes de Cursor y Claude para crear evasiones de EDR
- La puerta trasera MiniFast de Nimbus Manticore muestra código asistido por IA en conflicto con Irán
- GTIG intercepta el primer zero-day creado por IA: elusión de 2FA en herramienta de administración
- APT45 de Corea del Norte envió miles de prompts a Gemini para validar exploits y ampliar su arsenal
- El malware ruso CANFAIL y LONGSTREAM rellena el código con relleno de LLM para engañar a analistas
- La puerta trasera PROMPTSPY para Android deja que Gemini maneje la pantalla y bloquee desinstalar
- UNC2814, vinculado a China, fingió ser auditor C/C++ para que Gemini buscara fallas en TP-Link
- Talos IR: robo de credenciales en el sector público con página de phishing creada en Softr
- Unit 42: dropper en Go pregunta a GPT-4 si desplegar Sliver según la telemetría del host
- Sitios ClickFix generados con IA en dominios typosquatting distribuyen SmartRAT
- Microsoft: Coral Sleet de Corea del Norte opera un flujo de IA agéntica de los señuelos a las cargas
- HP Wolf: scripts de infección de 'vibe-hacking' generados por IA burlan las pasarelas de correo
- Dust Specter, vinculado a Irán, ataca a funcionarios iraquíes con malware con rastros de IA
- Un hacker usa Claude para vulnerar agencias mexicanas y robar 150 GB de datos fiscales y electorales
- Kit de phishing COINBAIT para exchanges cripto construido con el constructor de apps con IA Lovable
- Google: hackers estatales usan Gemini en todas las fases de ataque; intento de extracción masiva
- El cargador HONESTCUE pide a Gemini escribir código C# de segunda etapa y lo compila en memoria
- CERT-FR: 42 grupos atacantes usan activamente IA generativa, ninguno aún autónomo contra Francia
- El framework de malware en la nube VoidLink fue construido en su mayoría por un agente de IA
- Unit 42 prueba WormGPT 4 y KawaiiGPT, LLM criminales que escriben scripts de ransomware
- Un grupo estatal chino usó Claude Code para ejecutar espionaje en gran medida autónomo
- Actor vinculado a China eludió el rechazo de Gemini con pretexto de CTF para obtener guía de ataque
- MuddyWater de Irán filtró a Gemini su dominio C2 y clave de cifrado mientras depuraba malware
- Google señala PROMPTFLUX y otros programas maliciosos que llaman a Gemini en tiempo de ejecución
- El stealer QUIETVAULT usa herramientas CLI de IA locales para cazar secretos y filtrar tokens
- La puerta trasera SesameOp usó la API Assistants de OpenAI como C2 encubierto durante meses
- Kaspersky: las campañas GhostCall y GhostHire de BlueNoroff aceleradas con IA generativa
- Clúster vinculado a Corea del Norte usó ChatGPT para herramientas C2 en phishing contra diplomáticos
- Criminales rusoparlantes ensamblaron un RAT y ladrones de credenciales con fragmentos de ChatGPT
- Redes de estafa en Camboya, Myanmar y Nigeria usaron ChatGPT para identidades de fraude de inversión
- UNK_DropPitch usó ChatGPT para elaborar phishing y herramientas contra el sector de chips de Taiwán
- Microsoft bloquea una campaña de phishing con archivos SVG ofuscados generados por LLM
- SentinelLABS halla MalTerminal, generador de malware con GPT-4 probablemente anterior a nov 2023
- Kimsuky usa una identificación militar surcoreana falsificada con ChatGPT en spear-phishing
- Criminal solitario vendió variantes de ransomware creadas con Claude en foros por $400 a $1,200
- Claude Code usado para automatizar la extorsión de datos contra 17 organizaciones
- ESET descubre PromptLock, un ransomware que usa un modelo gpt-oss local para escribir scripts · Prueba de laboratorio o demostración de investigadores
- Proofpoint: Lovable abusado para phishing MFA de Tycoon contra más de 5,000 organizaciones
- Paquete npm @kodane/patch-manager escrito por IA vacía billeteras de Solana tras 1,500 descargas
- LameHug: malware vinculado a APT28 consulta el LLM Qwen para generar comandos
- El RaaS GLOBAL GROUP despliega negociadores chatbot con IA para presionar rescates de siete cifras
- Cato CTRL: las nuevas variantes de WormGPT son envoltorios con jailbreak sobre Grok y Mixtral
- ScopeCreep: actor rusoparlante creó malware para Windows con cuentas desechables de ChatGPT
- VAGue Focus: cuentas vinculadas a China usaron ChatGPT para ingeniería social contra EE. UU.
- OpenAI bloquea cuentas de APT15 y APT5 que usaban ChatGPT para pentests y reconocimiento en EE. UU.
- Wrong Number: estafa de tareas desde Camboya usó ChatGPT para traducir señuelos SMS a seis idiomas
- FBI alerta de campaña de vishing con voz de IA que suplanta a altos funcionarios de EE. UU.
- Anthropic bloquea a actor que usaba Claude para crear un extractor de credenciales de cámaras IoT
- Programador novato amplía kit de doxing y constructor de malware evasivo con ayuda de Claude
- Red de fraude de reclutamiento usó Claude para pulir señuelos de falsos reclutadores en Europa
- AkiraBot usa GPT-4o-mini para enviar spam a 80,000 sitios web vía formularios y widgets de chat
- Xanthorox AI: plataforma criminal autoalojada de cinco modelos promocionada como sucesora de WormGPT
- Estafa romántica con base en Camboya usó ChatGPT para generar señuelos sociales multilingües
- Kimsuky y BlueNoroff usaron ChatGPT para depurar código de fuerza bruta RDP e investigar intrusiones
- GhostGPT: chatbot sin censura vendido en Telegram para escribir malware y phishing para criminales
- Check Point: el grupo de ransomware FunkSec creó su cifrador en Rust con ayuda de IA
Otras advertencias de este grupo
- Fuera de lo que medimos Los ejércitos ponen decisiones de vida o muerte en manos de la IA
- Señales tempranas Las empresas lanzan la IA antes de que sea segura para ganar la carrera
- Fuera de lo que medimos La automatización deja a la sociedad dependiente de la IA
- Fuera de lo que medimos La competencia selecciona una IA egoísta