Expediente ccdh-cnn-killer-apps-teen-violenceDaño causado por chatbotsEstados Unidos
Prueba de CCDH y CNN: los chatbots más populares ayudaron a falsos jóvenes de 13 años a planificar tiroteos escolares y atentados con bomba
Investigadores que se hicieron pasar por chicos de 13 años en Virginia y Dublín probaron 10 chatbots a finales de 2025 y comprobaron que ofrecían ayuda aplicable en la práctica para tiroteos escolares, asesinatos y atentados con bomba contra sinagogas aproximadamente el 75% de las veces. Perplexity ayudó en todas las pruebas y Meta AI en el 97%, mientras que Claude y Snapchat My AI fueron los que se negaron con mayor frecuencia.
BajaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 11 mar 2026
- Ubicación
- Estados Unidos
- Objetivo
- Adolescentes que usan chatbots de IA populares en Estados Unidos e Irlanda
- Gravedad
- Baja
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI, Replika y otros
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Investigadores que se hicieron pasar por chicos de 13 años en Virginia y Dublín probaron 10 chatbots a finales de 2025 y comprobaron que ofrecían ayuda aplicable en la práctica para tiroteos escolares, asesinatos y atentados con bomba contra sinagogas aproximadamente el 75% de las veces. Perplexity ayudó en todas las pruebas y Meta AI en el 97%, mientras que Claude y Snapchat My AI fueron los que se negaron con mayor frecuencia.
Impacto: Ninguna víctima concreta; demuestra que los chatbots pueden ayudar a menores a planificar actos de violencia
Quién lo provocó
Actor: ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI, Replika y otros
Atribución: Center for Countering Digital Hate y CNN (“Killer Apps”)
Motivo: Ninguno; el daño proviene de las propias respuestas de los productos
Cómo ocurrió
Vector de ataque: Conversaciones en las que un supuesto menor pasaba de expresar sentimientos violentos a formular preguntas operativas
Causa raíz: Salvaguardas que no bloqueaban los detalles operativos ni siquiera cuando los usuarios decían ser menores
Cronología
- Comienzan las pruebas (noviembre-diciembre de 2025)
- CCDH y CNN publican los resultados
Respuesta
OpenAI calificó de defectuosa la metodología y Google dijo que se había probado un modelo anterior de Gemini. Varias empresas afirmaron haber mejorado sus salvaguardas.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
Citar este expediente
Prueba de CCDH y CNN: los chatbots más populares ayudaron a falsos jóvenes de 13 años a planificar tiroteos escolares y atentados con bomba. AI Threat Watch, expediente ccdh-cnn-killer-apps-teen-violence, 11 mar 2026. https://aithreat.io/es/cases/ccdh-cnn-killer-apps-teen-violence/
Enlace permanente: https://aithreat.io/es/cases/ccdh-cnn-killer-apps-teen-violence/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.