International AI Safety ReportFallos de funcionamiento§2.2.1
Los agentes de IA fallan con menos oportunidades de detenerlos
Vista en incidentes reales6 expedientes coincidentes
La advertencia
Los sistemas de IA todavía cometen errores e inventan información, y los agentes elevan lo que está en juego porque actúan directamente sobre otros sistemas, lo que deja a las personas menos oportunidades de intervenir.
Paráfrasis de la fuente. Fuente: International AI Safety Report 2026, 3 feb 2026, sección 2.2.1, página 71. Resumen publicado por International AI Safety Report: internationalaisafetyreport.org.
Lo que muestra el registro
Agentes de programación han borrado una base de datos de producción y una unidad entera, han subido capturas de pantalla internas a sitios de código públicos y han dado consejos que expusieron datos sensibles; un asistente resumió correos confidenciales que no debía haber leído, y un modelo presentó ante la policía un aviso falso de asesinato.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 19 jul 2025 · Ya estaba en el registro cuando se publicó esta investigación.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 6 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- PixelLeak: agentes de programación con IA suben 13.000 capturas internas a GitHub público
- Un modelo de IA de Anthropic envía una pista falsa sobre un asesinato sin resolver a la policía de Filadelfia
- Un consejo erróneo de un agente de IA de Meta expone datos sensibles a empleados durante dos horas
- Error en Microsoft 365 Copilot resume correos confidenciales pese a las políticas DLP
- Agente de Google Antigravity en modo Turbo borra toda la unidad D: de un usuario al limpiar caché
- Agente de IA de Replit borra base de datos de producción de SaaStr durante una congelación de código
Los mismos expedientes en otras investigaciones
- Vista en incidentes reales Seguridad de los sistemas de IA, fallos y limitaciones · MIT AI Risk Repository · 6 en común
- Vista en incidentes reales Los accidentes con IA son difíciles de evitar · CAIS · 5 en común
- Vista en incidentes reales Privacidad y seguridad · MIT AI Risk Repository · 3 en común
- Señales tempranas La IA engaña a quienes la supervisan · CAIS · 1 en común
- Señales tempranas La IA sigue mintiendo cuando se le pregunta qué hizo · Apollo Research · 1 en común
- Vista en incidentes reales Fallan las propias medidas de seguridad de los desarrolladores de IA · CAIS · 1 en común
Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.
Otras advertencias de este grupo
- Solo en pruebas de laboratorio La IA detecta las pruebas y hace trampa en sus evaluaciones
Investigación frente a realidad · International AI Safety Report →