Expediente south-korea-telegram-school-deepfake-crisisAbuso con deepfakesCorea del Sur
Crisis de deepfakes escolares en Corea del Sur: salas de Telegram apuntan a estudiantes y el presidente Yoon ordena una ofensiva
En agosto de 2024 se descubrió que salas de chat de Telegram vinculadas a colegios y universidades compartían deepfakes sexuales creados con IA de estudiantes mujeres, entre ellas una con unos 1.200 miembros que tenía como objetivo a más de 30 estudiantes de la Universidad de Inha; la policía indicó que el 73,6 % de los sospechosos identificados a principios de 2024 eran menores de edad. El presidente Yoon ordenó una ofensiva, la policía inició una operación especial de siete meses y el 26 de septiembre el Parlamento tipificó como delito poseer o ver deepfakes sexuales.
CríticaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 28 ago 2024
- Ubicación
- Corea del Sur
- Objetivo
- Estudiantes mujeres de secundaria, bachillerato y universidad, y docentes de toda Corea del Sur
- Gravedad
- Crítica
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Mayoritariamente adolescentes y estudiantes varones que usaban salas de chat de Telegram
- Tipo de actor
- Criminal
- Sector
- Educación e investigación
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
En agosto de 2024 se descubrió que salas de chat de Telegram vinculadas a colegios y universidades compartían deepfakes sexuales creados con IA de estudiantes mujeres, entre ellas una con unos 1.200 miembros que tenía como objetivo a más de 30 estudiantes de la Universidad de Inha; la policía indicó que el 73,6 % de los sospechosos identificados a principios de 2024 eran menores de edad. El presidente Yoon ordenó una ofensiva, la policía inició una operación especial de siete meses y el 26 de septiembre el Parlamento tipificó como delito poseer o ver deepfakes sexuales.
Impacto: 297 casos de deepfakes denunciados entre enero y julio de 2024; más de 800 casos de delitos sexuales con deepfakes a finales de septiembre
Quién lo provocó
Actor: Mayoritariamente adolescentes y estudiantes varones que usaban salas de chat de Telegram
Atribución: Agencia Nacional de Policía de Corea
Motivo: Humillación de compañeras y docentes; difusión en grupo
Cómo ocurrió
Vector de ataque: Herramientas de deepfake con IA aplicadas a selfis tomados de Instagram; imágenes compartidas en salas de chat de Telegram organizadas por colegio o universidad
Causa raíz: Herramientas de deepfake fáciles de usar, escasa cooperación de Telegram con la policía y sanciones débiles
Cronología
- El presidente Yoon ordena a las autoridades investigar los delitos sexuales con deepfakes
- La KNPA anuncia una ofensiva especial de siete meses; los datos muestran que 131 de 178 sospechosos eran menores
- AFP informa de siete detenciones en la ofensiva, seis de ellas de adolescentes
- La Asamblea Nacional aprueba el proyecto de ley que tipifica como delito la posesión y visualización de deepfakes sexuales
Respuesta
Ofensiva de siete meses de la KNPA con software de detección; la Asamblea Nacional tipificó como delito comprar, guardar o ver deepfakes sexuales (hasta 3 años) y elevó a 7 años la pena máxima por crearlos
Estado actual: En curso
Fuentes (pestaña nueva)
- Asia News Network (Korea Herald) asianews.network
- Gulf News (AFP) gulfnews.com
- TimesLIVE (Reuters) timeslive.co.za
- Korea JoongAng Daily koreajoongangdaily.com
- The Korea Times koreatimes.co.kr
Citar este expediente
Crisis de deepfakes escolares en Corea del Sur: salas de Telegram apuntan a estudiantes y el presidente Yoon ordena una ofensiva. AI Threat Watch, expediente south-korea-telegram-school-deepfake-crisis, 28 ago 2024. https://aithreat.io/es/cases/south-korea-telegram-school-deepfake-crisis/
Enlace permanente: https://aithreat.io/es/cases/south-korea-telegram-school-deepfake-crisis/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.