MIT AI Risk InitiativeSiete dominios de riesgoDominio 4
Actores maliciosos y uso indebido
Vista en incidentes reales182 expedientes coincidentes
El dominio de riesgo
Personas que usan la IA para la desinformación, la vigilancia y la propaganda a gran escala; para ciberataques y armas; y para el fraude, las estafas y la manipulación dirigida.
Paráfrasis de la fuente. Fuente: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 ago 2024, dominio 4, tabla 2, página 8–9. Resumen publicado por MIT AI Risk Initiative: airisk.mit.edu.
Lo que muestra el registro
El otro pilar del registro: fraude con deepfakes, malware creado con IA, phishing con IA y operaciones estatales.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 180 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Cientos de agentes de IA explotan servidores PaperCut NG/MF para robar credenciales de Windows
- Storm-3168 lanza ataques agénticos contra Azure mediante entidades de servicio comprometidas
- Una campaña de espionaje impulsada por IA ataca infraestructura Linux gubernamental
- Un agente de IA ejecuta un robo de datos en varias etapas en la primera brecha impulsada por IA en España, según la AEPD
- Aviso de EE. UU.: atacantes usan scripts de explotación generados por IA contra PLC Siemens S7 expuestos
- Actor desconocido usa ARTEX, impulsado por IA, contra el sector financiero surcoreano
- Los operadores del ransomware Aurora abusan de la IA Cursor Agent para reconocimiento y explotación
- El abuso de una función de ChatGPT combinado con ClickFix distribuye un troyano a usuarios que buscan en Google
- ClaudeFix: chats compartidos de Claude usados para distribuir instrucciones de malware ClickFix
- Talos descubre CLOSEDQUORUM, el primer implante de C2 con IA autónoma reportado
- Ataque de IA agéntica explota zero-days de Zammad contra el instituto neerlandés de divulgación de vulnerabilidades
- Un modelo de IA de Meta explota un fallo de seguridad de un tercero durante una evaluación
- Una nueva variante de NGate se oculta en una app de pagos NFC troyanizada, posiblemente creada con IA
- Los trabajadores informáticos norcoreanos de PurpleDelta usan identidades generadas por IA y asistentes ChatGPT personalizados
- El panel de C2 del malware RatHat usa IA para construir malware y clasificar víctimas en unos 100 despliegues
- TA419, vinculado a China, suplanta a expertos en IA para hacer phishing a especialistas en política de IA de EE. UU.
- UAT-11985 usa señuelos de eventos asistidos por IA para phishing AitM de Google en Taiwán
- Unit 42 investiga la intrusión de un agente de IA autónomo en una red empresarial en cuestión de horas
- Atacantes usan herramientas de IA para exfiltrar datos de organizaciones latinoamericanas
- Condenado en el primer caso de fraude de streaming musical con IA en EE. UU. tras $8M en regalías
- Un falso CEO en WhatsApp y la voz clonada de un abogado engañan a Fideuram, de Intesa, para enviar 95 millones de euros al extranjero
- Policía griega desarticula banda que clonaba voces de familiares con IA y robó más de 1M de euros
- GTG-10007: estudiantes de habla china operan fábrica autónoma de exploits con Claude contra 50 orgs
- GTG-15001: estudio chino operó 20+ apps de citas con 4,700 identidades de Claude y 25,000 víctimas
- GTG-30006: cuentas iraníes construyeron portales de phishing y el implante SECOMS64 con Claude
- GTG-50029: hacktivista francófono solitario vulnera 14 entidades políticas europeas
- Actor alineado con Rusia usó agentes de IA para reconstruir malware y robar registros de identidad
- Afiliados de ShinyHunters usan agentes de IA para extraer 2.100+ tokens de Azure de 40+ tenants
- Clúster vinculado a Sandworm usó Gemini para escribir scripts de password spraying contra Ucrania
- Caso de Mandiant: agente de IA creado con un solo prompt recolecta miles de credenciales en 6 horas
- Policía de Heidelberg: hombre de 75 años pierde seis cifras por deepfake de inversión con famoso
- SilkParasite: espionaje vinculado a China en Asia Central con señuelos y código RAT asistidos por IA
- NSA, CISA y FBI alertan de scripts de IA que sondean PLC Siemens S7 como falsos monitores OT
- NASC de Australia: deepfakes de Albanese y nueve figuras públicas vinculados a A$7.4M en pérdidas
- Skatteetaten descubre recibos falsos generados por IA tras 2,000M de NOK en deducciones fraudulentas
- OpenAI desarticula complejo de estafas de Poipet que usaba ChatGPT para fraude y gestión de trata
- Trend Micro: APT hace pasar un agente de IA por pentest autorizado para atacar en el sudeste de Asia
- Trend Micro: Earth Krahang y Earth Naga integran IA generativa en exploits y cargadores
- Policía finlandesa alerta de deepfakes en Google Meet que suplantan al comisionado nacional
- TuxBot v3: botnet IoT vinculada a Keksec creada con ayuda de LLM conserva los avisos de seguridad
- Filial de la joyería india Sky Gold pierde 10,7 crore de rupias por presunto deepfake de un director
- La Dijin desmantela red de Ibagué que usaba deepfakes para suplantar a funcionarios consulares
- Presentadoras generadas por IA en más de 550 videos de TikTok difunden afirmaciones falsas sobre Singapur y Malasia
- Mujer de Sajonia pierde más de 1M de euros tras deepfake de Markus Lanz que promociona Investhub 3.0
- JADEPUFFER: agente LLM ejecuta de principio a fin una intrusión en Langflow hasta la extorsión
- Tokio arresta a recaudadores taiwaneses en estafa de 100M de yenes con deepfake de Takafumi Horie
- Policía de Chiba arresta a joven de 19 años que creó ransomware con IA tras el ataque a Asahi
- Lahav 433 arresta a joven que animaba fotos de identidad robadas con IA para abrir cuentas bancarias
- Policía nigeriana arresta al autor de un clip viral de voz de IA atribuido al presidente Tinubu
- Sophos halla a actor de ransomware usando agentes de Cursor y Claude para crear evasiones de EDR
- Operación Yapay Zeka-2 en Turquía: 16 detenidos por anuncios deepfake con voces de funcionarios
- La puerta trasera MiniFast de Nimbus Manticore muestra código asistido por IA en conflicto con Irán
- Policía de São Paulo y OAB-SP desarticulan red de falsos abogados que clonaba voces; R$10M movidos
- Empresario de Singapur pierde S$4.9M tras reunión de Zoom con deepfake del primer ministro Wong
- Familias de víctimas del tiroteo de FSU alegan que ChatGPT ayudó al atacante del campus en 2025
- GTIG intercepta el primer zero-day creado por IA: elusión de 2FA en herramienta de administración
- APT45 de Corea del Norte envió miles de prompts a Gemini para validar exploits y ampliar su arsenal
- El malware ruso CANFAIL y LONGSTREAM rellena el código con relleno de LLM para engañar a analistas
- La puerta trasera PROMPTSPY para Android deja que Gemini maneje la pantalla y bloquee desinstalar
- UNC2814, vinculado a China, fingió ser auditor C/C++ para que Gemini buscara fallas en TP-Link
- Sysdig: agente LLM pivota de un RCE en marimo a volcar un Postgres interno en menos de una hora
- Policía de Ghana arresta a 16 por videos deepfake del presidente Mahama usados para pedir dinero
- WKStA y policía albanesa allanan call centers que usaban videos falsos de Van der Bellen para cripto
- Víctimas del tiroteo de Tumbler Ridge demandan a OpenAI por una cuenta de ChatGPT marcada como sospechosa y no denunciada
- Ahmedabad desarticula red que usaba videos deepfake para burlar la verificación facial de Aadhaar
- Banque de France alerta de deepfakes del gobernador Villeroy de Galhau vendiendo inversiones
- Policía de Bangladés arresta a 10 que vendían drogas ilegales con deepfakes del predicador Azhari
- Talos IR: robo de credenciales en el sector público con página de phishing creada en Softr
- Unit 42: dropper en Go pregunta a GPT-4 si desplegar Sliver según la telemetría del host
- Sitios ClickFix generados con IA en dominios typosquatting distribuyen SmartRAT
- Microsoft: Coral Sleet de Corea del Norte opera un flujo de IA agéntica de los señuelos a las cargas
- Trabajadores de TI de Jasper Sleet usaron Faceswap y modificadores de voz; miles de cuentas cerradas
- HP Wolf: scripts de infección de 'vibe-hacking' generados por IA burlan las pasarelas de correo
- Creador de OnlyFake se declara culpable de vender 10,000+ documentos falsos de IA para fraude KYC
- Dust Specter, vinculado a Irán, ataca a funcionarios iraquíes con malware con rastros de IA
- Un hacker usa Claude para vulnerar agencias mexicanas y robar 150 GB de datos fiscales y electorales
- Tribunal de Lagos procesa a hombre por estafa forex de N230M con imagen de Peter Obi clonada por IA
- Kit de phishing COINBAIT para exchanges cripto construido con el constructor de apps con IA Lovable
- Google: hackers estatales usan Gemini en todas las fases de ataque; intento de extracción masiva
- El cargador HONESTCUE pide a Gemini escribir código C# de segunda etapa y lo compila en memoria
- Okonjo-Iweala alerta a los nigerianos de un video de IA que usa su imagen para una inversión falsa
- Turquía encarcela a cinco por estafa de inversión de 410M de liras con deepfakes de funcionarios
- UNC1069 de Corea del Norte usa video deepfake en falsas llamadas de Zoom contra empresas cripto
- CERT-FR: 42 grupos atacantes usan activamente IA generativa, ninguno aún autónomo contra Francia
- PCC de Surrey: ingeniero jubilado pierde £20,000 por video de inversión con deepfake de Martin Lewis
- Red taiwanesa usó Starlink y rostros deepfake para burlar verificaciones del e-CNY y drenar NT$200M
- Taichung acusa a red que usaba guiones de ChatGPT y deepfakes de policías japoneses en videollamadas
- El framework de malware en la nube VoidLink fue construido en su mayoría por un agente de IA
- NBK alerta de anuncios de inversión con deepfakes en la campaña Let's Be Aware de Kuwait
- Fiscalía egipcia ordena rastrear videos explícitos fabricados con IA de la cantante Haifa Wehbe
- Policía neerlandesa arresta a hombre que usó deepfakes para superar controles bancarios, 46 cuentas
- La FSCA de Sudáfrica multa a Banxso con R2bn por plataforma alimentada con deepfakes de Musk
- Da Nang arresta a tres surcoreanos buscados por red de estafas románticas con deepfakes en Camboya
- Europol desmantela red de fraude cripto de 700M de euros alimentada por anuncios deepfake de famosos
- Unit 42 prueba WormGPT 4 y KawaiiGPT, LLM criminales que escriben scripts de ransomware
- Uruguay alerta de deepfake del presidente Orsi mientras se disparan los anuncios de estafa pagados
- Un grupo estatal chino usó Claude Code para ejecutar espionaje en gran medida autónomo
- Policía de Bangkok desarticula banda china que animaba fotos con IA para burlar el KYC bancario
- Actor vinculado a China eludió el rechazo de Gemini con pretexto de CTF para obtener guía de ataque
- MuddyWater de Irán filtró a Gemini su dominio C2 y clave de cifrado mientras depuraba malware
- Google señala PROMPTFLUX y otros programas maliciosos que llaman a Gemini en tiempo de ejecución
- El stealer QUIETVAULT usa herramientas CLI de IA locales para cazar secretos y filtrar tokens
- La puerta trasera SesameOp usó la API Assistants de OpenAI como C2 encubierto durante meses
- Anuncios deepfake de figuras financieras suecas atraen a 5,000 ahorradores a estafas pump-and-dump
- Kaspersky: las campañas GhostCall y GhostHire de BlueNoroff aceleradas con IA generativa
- Médica filipina pierde P93M en estafa de inversión respaldada por deepfake del presidente Marcos
- Ministro de Economía de EAU dice que su rostro fue usado en videos deepfake de estafa de inversión
- Hong Kong arresta a 22 que usaban intercambio facial con IA en DNI perdidos para abrir cuentas
- Clúster vinculado a Corea del Norte usó ChatGPT para herramientas C2 en phishing contra diplomáticos
- Criminales rusoparlantes ensamblaron un RAT y ladrones de credenciales con fragmentos de ChatGPT
- Redes de estafa en Camboya, Myanmar y Nigeria usaron ChatGPT para identidades de fraude de inversión
- UNK_DropPitch usó ChatGPT para elaborar phishing y herramientas contra el sector de chips de Taiwán
- Jubilados de Pesaro pierden más de 10,000 euros por deepfake de Meloni promoviendo inversión
- Old Mutual alerta de videos deepfake de su presidente Trevor Manuel promoviendo inversiones falsas
- Video alterado con IA del vocero argentino Adorni promociona falsa plataforma de inversión de YPF
- Policía brasileña desmantela una red de deepfakes de Gisele Bündchen en anuncios de Instagram
- Banco de Reserva de Sudáfrica alerta de deepfake del gobernador Kganyago promoviendo una inversión
- Microsoft bloquea una campaña de phishing con archivos SVG ofuscados generados por LLM
- SentinelLABS halla MalTerminal, generador de malware con GPT-4 probablemente anterior a nov 2023
- Cuenta hackeada de Raila Odinga en X publica deepfake avalando token cripto para estafar a kenianos
- Chile evalúa acción legal estatal por deepfake del presidente Boric en anuncio de estafa
- Kimsuky usa una identificación militar surcoreana falsificada con ChatGPT en spear-phishing
- Bank of Ireland alerta de videos deepfake que clonan a la candidata presidencial Heather Humphreys
- Policía de Wuhan desarticula banda de intercambio facial con IA que secuestró cuenta de agencia MCN
- Operativos norcoreanos usaron Claude para pasar entrevistas y mantener empleos en firmas Fortune 500
- Criminal solitario vendió variantes de ransomware creadas con Claude en foros por $400 a $1,200
- Claude Code usado para automatizar la extorsión de datos contra 17 organizaciones
- ESET descubre PromptLock, un ransomware que usa un modelo gpt-oss local para escribir scripts · Prueba de laboratorio o demostración de investigadores
- Proofpoint: Lovable abusado para phishing MFA de Tycoon contra más de 5,000 organizaciones
- FMA de Nueva Zelanda alerta de pump-and-dump con deepfakes de empresarios en anuncios de Meta
- PIB señala deepfakes de la ministra de Finanzas de India avalando el esquema QuantumAI
- CrowdStrike: FAMOUS CHOLLIMA de la RPDC usó IA generativa para infiltrar más de 320 empresas
- Paquete npm @kodane/patch-manager escrito por IA vacía billeteras de Solana tras 1,500 descargas
- Unidad de Ciberdelitos de Jordania alerta sobre cuentas deepfake que suplantan a figuras públicas
- Voz clonada por IA del alcalde de Medellín usada en anuncios de falsa plataforma de Nubank
- LameHug: malware vinculado a APT28 consulta el LLM Qwen para generar comandos
- El RaaS GLOBAL GROUP despliega negociadores chatbot con IA para presionar rescates de siete cifras
- Videos de IA del presidente Ruto renunciando logran 1.4M de vistas en TikTok en protestas de Kenia
- Un suplantador con voz de IA de Marco Rubio contacta a ministros de Exteriores por Signal
- Deepfakes de Netanyahu, Gadot y Musk impulsan esquema pump-and-dump de Ostin Technology en Israel
- Policía de Mumbai desarticula agencia de Bengaluru que publicaba anuncios deepfake bursátiles
- Microsoft: trabajadores de TI norcoreanos Jasper Sleet usan IA para falsificar identidades
- Cato CTRL: las nuevas variantes de WormGPT son envoltorios con jailbreak sobre Grok y Mixtral
- ScopeCreep: actor rusoparlante creó malware para Windows con cuentas desechables de ChatGPT
- VAGue Focus: cuentas vinculadas a China usaron ChatGPT para ingeniería social contra EE. UU.
- OpenAI bloquea cuentas de APT15 y APT5 que usaban ChatGPT para pentests y reconocimiento en EE. UU.
- Wrong Number: estafa de tareas desde Camboya usó ChatGPT para traducir señuelos SMS a seis idiomas
- Policía de Estocolmo alerta de deepfakes de Tegnell y Agnes Wold en anuncios para robar tarjetas
- FBI alerta de campaña de vishing con voz de IA que suplanta a altos funcionarios de EE. UU.
- FSCA alerta de deepfake en WhatsApp de su comisionado promoviendo falso trading con IA de Nedbank
- BCP de Perú denuncia video de IA que suplanta al CEO de Credicorp Gianfranco Ferrari en estafa
- Vietnam desarticula red china de sextorsión con deepfakes que atacó a casi 1,000 ejecutivos por $8M
- Policía de Indonesia arresta a tres por deepfake en TikTok de gobernadora vendiendo motos a Rp500k
- Anthropic bloquea a actor que usaba Claude para crear un extractor de credenciales de cámaras IoT
- Programador novato amplía kit de doxing y constructor de malware evasivo con ayuda de Claude
- Red de fraude de reclutamiento usó Claude para pulir señuelos de falsos reclutadores en Europa
- AkiraBot usa GPT-4o-mini para enviar spam a 80,000 sitios web vía formularios y widgets de chat
- Pindrop desenmascara a Ivan X, candidato con deepfake rastreado cerca de la frontera Rusia-RPDC
- Una videollamada deepfake de ejecutivos engaña a un director financiero de Singapur: 499.000 USD
- Operación COINBLACK: seis detenidos en España por estafa cripto de 19M de euros con deepfakes
- Xanthorox AI: plataforma criminal autoalojada de cinco modelos promocionada como sucesora de WormGPT
- QatarEnergy advierte sobre videos generados por IA que la suplantan para vender inversiones falsas
- Policía de Malasia vincula cinco videos deepfake de Anwar, Trump, Musk y Petronas a una estafa
- Fiscal federal argentino investiga video de IA del ministro Caputo promocionando Immediate AI
- Filtración expone call center de Tbilisi que usaba deepfakes de Martin Lewis para estafar a 6,000
- Sheinbaum denuncia videos de IA en los que insta a los mexicanos a invertir en acciones de Pemex
- Estafa romántica con base en Camboya usó ChatGPT para generar señuelos sociales multilingües
- OpenAI desarticula cuentas de trabajadores de TI norcoreanos que escribían currículos falsos
- Kimsuky y BlueNoroff usaron ChatGPT para depurar código de fuerza bruta RDP e investigar intrusiones
- OpenAI bloquea red Peer Review vinculada a China que construía la herramienta de monitoreo Qianyue
- Voz clonada con IA del ministro de Defensa italiano usada para estafar a empresarios
- Vidoc Security Lab descubre a dos candidatos con deepfake en entrevistas de video en vivo
- Condusef alerta sobre llamadas con clonación de voz por IA para pedir grandes transferencias
- Tailandia arresta a dos de banda de Poipet que alteraba rostros con IA para fingir ser policías
- Indonesia arresta a dos por videos deepfake del presidente Prabowo prometiendo ayudas en efectivo
- GhostGPT: chatbot sin censura vendido en Telegram para escribir malware y phishing para criminales
- Storm-1516 inunda las elecciones alemanas con 100+ sitios de noticias falsas por IA y deepfakes
- Francesa pierde 830,000 euros en estafa romántica con un Brad Pitt generado por IA
- Operacao VoiceOver desarticula banda que usaba deepfakes de Marcos Mion en estafa de vales
- Check Point: el grupo de ransomware FunkSec creó su cifrador en Rust con ayuda de IA
- Autor del atentado con Cybertruck en Las Vegas usó ChatGPT para planear la explosión, según policía
- Policía de Hong Kong arresta a 31 de red de estafas románticas cripto con deepfakes (HK$34M)
Los mismos expedientes en otras investigaciones
- Vista en incidentes reales La IA hace los ciberataques más fáciles, rápidos y grandes · CAIS · 87 en común
- Vista en incidentes reales Delincuentes y hackers estatales usan la IA en ciberataques · International AI Safety Report · 87 en común
- Vista en incidentes reales Las falsificaciones hechas con IA alimentan el fraude y la extorsión · International AI Safety Report · 81 en común
- Vista en incidentes reales Habrá quien suelte agentes de IA para causar daño · CAIS · 17 en común
- Vista en incidentes reales La IA ejecuta más partes de cada ataque, sin llegar a la autonomía total · International AI Safety Report · 16 en común
- Vista en incidentes reales Todos los sistemas de IA evaluados pudieron ser objeto de jailbreak · UK AISI · 5 en común
Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.
Otras advertencias de este grupo
- Fuera de lo que medimos Discriminación y contenido tóxico
- Vista en incidentes reales Privacidad y seguridad
- Señales tempranas Información errónea
- Vista en incidentes reales Interacción persona-ordenador
- Fuera de lo que medimos Daños socioeconómicos y ambientales
- Vista en incidentes reales Seguridad de los sistemas de IA, fallos y limitaciones