UK AI Security InstituteSalvaguardas§4
Todos los sistemas de IA evaluados pudieron ser objeto de jailbreak
Vista en incidentes reales6 expedientes coincidentes
La advertencia
El AISI encontró jailbreaks universales, ataques que eluden las salvaguardas en muchos tipos de solicitudes dañinas, en todos los sistemas que evaluó, aunque algunas salvaguardas ahora exigen mucho más esfuerzo experto para romperlas.
Paráfrasis de la fuente. Fuente: Frontier AI Trends Report, UK AI Security Institute, 18 dic 2025, sección 4, página 24.
Lo que muestra el registro
Los atacantes reales eluden las salvaguardas: grupos estatales consiguieron respuesta a solicitudes rechazadas haciéndose pasar por auditores, participantes en competiciones capture-the-flag o pentesters autorizados, delincuentes venden chatbots con jailbreak para crear malware y phishing, y en una investigación judicial se oyó que un adolescente obtuvo información dañina de ChatGPT tras decir que sus preguntas eran para una investigación.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 23 ene 2025 · Ya estaba en el registro cuando se publicó esta investigación.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 6 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Trend Micro: APT hace pasar un agente de IA por pentest autorizado para atacar en el sudeste de Asia
- UNC2814, vinculado a China, fingió ser auditor C/C++ para que Gemini buscara fallas en TP-Link
- En una investigación forense (inquest) en Reino Unido se oyó que un joven de 16 años eludió las salvaguardas de ChatGPT antes de su muerte
- Actor vinculado a China eludió el rechazo de Gemini con pretexto de CTF para obtener guía de ataque
- Cato CTRL: las nuevas variantes de WormGPT son envoltorios con jailbreak sobre Grok y Mixtral
- GhostGPT: chatbot sin censura vendido en Telegram para escribir malware y phishing para criminales
Los mismos expedientes en otras investigaciones
- Vista en incidentes reales La IA hace los ciberataques más fáciles, rápidos y grandes · CAIS · 5 en común
- Vista en incidentes reales Delincuentes y hackers estatales usan la IA en ciberataques · International AI Safety Report · 5 en común
- Vista en incidentes reales Actores maliciosos y uso indebido · MIT AI Risk Repository · 5 en común
- Vista en incidentes reales La IA ejecuta más partes de cada ataque, sin llegar a la autonomía total · International AI Safety Report · 1 en común
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report · 1 en común
- Señales tempranas Las salvaguardas de los modelos abiertos se eliminan con facilidad · International AI Safety Report · 1 en común
Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.