International AI Safety ReportGestión de riesgos§3.4

Las salvaguardas de los modelos abiertos se eliminan con facilidad

Señales tempranas5 expedientes coincidentes

La advertencia

Los modelos cuyos pesos se publican pueden modificarse para quitarles las salvaguardas, su uso es difícil de vigilar y una publicación no se puede retirar.

Paráfrasis de la fuente. Fuente: International AI Safety Report 2026, 3 feb 2026, sección 3.4, página 132. Resumen publicado por International AI Safety Report: internationalaisafetyreport.org.

Lo que muestra el registro

Herramientas de ataque del registro funcionan con modelos abiertos: una variante de WormGPT basada en Mixtral, una plataforma de la darknet que dice usar modelos autoalojados, un programa de robo de datos de APT28 que consulta a Qwen, un prototipo de ransomware que usa un modelo abierto local y un servidor Ollama secuestrado usado como cerebro de una herramienta de hacking. Ninguna muestra pesos modificados para quitar salvaguardas; la variante de WormGPT se basaba en sus instrucciones.

Señales parciales o tempranas: los casos encajan con parte de la advertencia o se basan en alegaciones. Primer caso real registrado: 7 abr 2025 · Ya estaba en el registro cuando se publicó esta investigación.

Expedientes coincidentes por trimestre

Vista en incidentes realesPrueba de laboratorio o demostración de investigadores

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Señales tempranas	5	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

12 jun 2026Un servidor Ollama secuestrado usado como cerebro de una canalización de hacking autónoma
26 ago 2025ESET descubre PromptLock, un ransomware que usa un modelo gpt-oss local para escribir scripts · Prueba de laboratorio o demostración de investigadores
17 jul 2025LameHug: malware vinculado a APT28 consulta el LLM Qwen para generar comandos
17 jun 2025Cato CTRL: las nuevas variantes de WormGPT son envoltorios con jailbreak sobre Grok y Mixtral
7 abr 2025Xanthorox AI: plataforma criminal autoalojada de cinco modelos promocionada como sucesora de WormGPT

Los mismos expedientes en otras investigaciones

Vista en incidentes reales La IA hace los ciberataques más fáciles, rápidos y grandes · CAIS · 4 en común
Vista en incidentes reales Actores maliciosos y uso indebido · MIT AI Risk Repository · 4 en común
Vista en incidentes reales Todos los sistemas de IA evaluados pudieron ser objeto de jailbreak · UK AISI · 1 en común
Vista en incidentes reales Privacidad y seguridad · MIT AI Risk Repository · 1 en común
Vista en incidentes reales Habrá quien suelte agentes de IA para causar daño · CAIS · 1 en común

Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.

Investigación frente a realidad · International AI Safety Report →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe la fuente, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio de la fuente. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)