AI Threat Watch

Expediente almendralejo-school-deepfake-nudesAbuso con deepfakesEspaña

Aplicación de IA para “desnudar” usada para crear falsos desnudos de más de 20 escolares en Almendralejo; 15 menores condenados posteriormente

Chicos de entre 12 y 14 años tomaron fotos de niñas de las redes sociales, usaron una aplicación de IA para colocar sus rostros sobre cuerpos desnudos y compartieron las imágenes en grupos de WhatsApp y Telegram, lo que motivó al menos 22 denuncias policiales. En julio de 2024, el juzgado de menores de Badajoz condenó a 15 menores por 20 delitos de elaboración de material de abuso sexual infantil y 20 delitos contra la integridad moral, e impuso a cada uno un año de libertad vigilada.

CríticaDaño causado por la IAEstado: ResueltoExpediente verificado

Abrir en el mapa interactivoCitar este expediente

Reportado
19 sept 2023
Ubicación
España
Objetivo
Más de 20 escolares de entre 11 y 17 años en Almendralejo, Extremadura
Gravedad
Crítica
Verificación
Confirmado por la víctima, el proveedor o una autoridad
Provocado por
15 chicos de la localidad (menores, sin nombre divulgado)
Tipo de actor
Criminal
Sector
Educación e investigación
Pérdida reportada
Ninguna reportada
CVE
Ninguno

Qué ocurrió

Chicos de entre 12 y 14 años tomaron fotos de niñas de las redes sociales, usaron una aplicación de IA para colocar sus rostros sobre cuerpos desnudos y compartieron las imágenes en grupos de WhatsApp y Telegram, lo que motivó al menos 22 denuncias policiales. En julio de 2024, el juzgado de menores de Badajoz condenó a 15 menores por 20 delitos de elaboración de material de abuso sexual infantil y 20 delitos contra la integridad moral, e impuso a cada uno un año de libertad vigilada.

Impacto: Las víctimas relataron ataques de pánico, acoso escolar y chantaje, y algunas se negaron a asistir a clase

Quién lo provocó

Actor: 15 chicos de la localidad (menores, sin nombre divulgado)

Atribución: Identificados por la Policía Nacional de España; condenados por el juzgado de menores de Badajoz

Motivo: Humillación y acoso a compañeras; las víctimas también denunciaron chantaje

Cómo ocurrió

Vector de ataque: Aplicación de IA para desnudar imágenes (identificada por Euronews como ClothOff) aplicada a fotos de las niñas en redes sociales; las imágenes se compartieron en WhatsApp y Telegram

Causa raíz: Aplicaciones para desnudar imágenes de libre acceso, sin verificación de edad ni de consentimiento; facilidad para recopilar fotos de menores en redes sociales

Cronología

  1. Las madres hacen público el caso; la Policía Nacional afirma haber identificado a varios menores
  2. Se presentan al menos 22 denuncias; se informa de que los sospechosos tienen entre 12 y 14 años; la agencia de protección de datos abre su propia investigación
  3. El juzgado de menores de Badajoz anuncia la condena de 15 menores, a cada uno de los cuales impone un año de libertad vigilada

Respuesta

La Policía Nacional y la Unidad Central de Ciberdelincuencia investigaron, el caso pasó a la fiscalía de menores y la agencia de protección de datos de España abrió su propia investigación; 15 chicos recibieron un año de libertad vigilada, además de clases sobre igualdad de género y uso responsable de la tecnología

Estado actual: Resuelto

Fuentes (pestaña nueva)

Citar este expediente

Aplicación de IA para “desnudar” usada para crear falsos desnudos de más de 20 escolares en Almendralejo; 15 menores condenados posteriormente. AI Threat Watch, expediente almendralejo-school-deepfake-nudes, 19 sept 2023. https://aithreat.io/es/cases/almendralejo-school-deepfake-nudes/

Enlace permanente: https://aithreat.io/es/cases/almendralejo-school-deepfake-nudes/

Casos relacionados

El mismo tipo de incidente, del más reciente al más antiguo.

Este expediente en otros idiomas: EnglishFrançaisEspañolالعربية中文Русский