Riesgos organizativosCenter for AI Safety§4
La IA potente se filtra o se roba
Vista en incidentes reales11 expedientes coincidentes
La advertencia
Los modelos de IA podrían filtrarse por accidente o ser robados por actores estatales, empresariales o criminales, y por eso los desarrolladores de IA necesitan una seguridad de la información de vanguardia.
Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 4, página 34.
Lo que muestra el registro
No se ha informado públicamente del robo de pesos de modelos, pero claves filtradas expusieron modelos privados, personas ajenas accedieron a un modelo restringido, se distribuyó código fuente por error, y las empresas de IA acusan a sus rivales de copiar capacidades de los modelos mediante consultas masivas.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 29 ene 2025.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 11 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- GTG-16005: Anthropic dice que Alibaba destiló Claude con 151M de intercambios para entrenar Qwen
- GTG-16006: Zhipu acusada de destilación cibernética de Claude Opus a través de 273 cuentas
- GTG-16008: Xiaomi reprodujo sesiones de usuarios de MiMo a través de Claude mediante 1,500 cuentas
- OpenAI confirma dos dispositivos de empleados y repositorios vulnerados por el gusano Shai-Hulud
- Un grupo no autorizado accede al modelo restringido Claude Mythos de Anthropic vía un proveedor
- Versiones envenenadas de LiteLLM vinculadas a la brecha de Mercor que expone secretos de IA
- Filtración del source map de Claude Code seguida de falsos repos de 'filtración' con malware
- Anthropic acusa a DeepSeek, Moonshot y MiniMax de destilar Claude mediante 24.000 cuentas
- Empleado de DOGE Marko Elez filtra clave de API de xAI que da acceso a 52 modelos de Grok
- Empleado de xAI filtra clave de API en GitHub y expone 60 modelos privados de Grok durante dos meses
- OpenAI dice tener evidencia de que DeepSeek destiló sus modelos mediante cuentas de API bloqueadas
Otras advertencias de este grupo
- Vista en incidentes reales Los accidentes con IA son difíciles de evitar
- Vista en incidentes reales Fallan las propias medidas de seguridad de los desarrolladores de IA