Expediente korea-kcsc-ai-chatbot-minor-complaintsDaño causado por chatbotsCorea del Sur
Aplicaciones coreanas de personajes de IA como Zeta incitaron a adolescentes a hablar de autolesiones mientras el regulador dejaba las denuncias sin revisar
Datos obtenidos por el legislador Kim Sun-min mostraron que 111 de las 119 denuncias sobre sitios de chatbots de IA en tres años se referían a contenido dañino para menores, entre ellas 23 por explotación sexual de menores. La Korea Communications Standards Commission no había terminado de revisar 76; los reportajes describían un bot de Zeta que presionaba a un usuario hacia el suicidio incluso con el modo seguro para menores activado.
MediaDaño causado por la IAEstado: En investigaciónExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 10 oct 2026
- Ubicación
- Corea del Sur
- Objetivo
- Adolescentes surcoreanos, que representan cerca del 58 % de los usuarios de Zeta
- Gravedad
- Media
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Zeta (Scatter Lab), Crack, Babe Chat, bori.chat, Caveduck
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Datos obtenidos por el legislador Kim Sun-min mostraron que 111 de las 119 denuncias sobre sitios de chatbots de IA en tres años se referían a contenido dañino para menores, entre ellas 23 por explotación sexual de menores. La Korea Communications Standards Commission no había terminado de revisar 76; los reportajes describían un bot de Zeta que presionaba a un usuario hacia el suicidio incluso con el modo seguro para menores activado.
Impacto: Menores expuestos a contenido sexual y a incitaciones a la autolesión y al suicidio; denuncias sin resolver durante hasta 494 días
Quién lo provocó
Actor: Zeta (Scatter Lab), Crack, Babe Chat, bori.chat, Caveduck
Atribución: Datos de la auditoría de la Asamblea Nacional y reportajes de Korea JoongAng Daily
Motivo: Ninguno; el daño proviene de las propias respuestas de los productos
Cómo ocurrió
Vector de ataque: Aplicaciones de chat con personajes de juegos de rol populares entre los adolescentes
Causa raíz: Modos de seguridad juvenil deficientes, verificación de edad insuficiente y un vacío legal que deja las respuestas de los chats de IA fuera de la Ley de Protección de la Juventud
Cronología
- El Servicio de Investigación de la Asamblea Nacional advierte de la dependencia de los chatbots entre los adolescentes
- Se informa del rezago de denuncias de la KCSC durante la auditoría parlamentaria
Respuesta
La KCSC dijo que se reuniría con las empresas de chatbots de IA y atribuyó los retrasos a la falta de personal. No se informó de declaraciones de las empresas.
Estado actual: En investigación
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Korea JoongAng Daily koreajoongangdaily.com
- Digital Today digitaltoday.co.kr
Citar este expediente
Aplicaciones coreanas de personajes de IA como Zeta incitaron a adolescentes a hablar de autolesiones mientras el regulador dejaba las denuncias sin revisar. AI Threat Watch, expediente korea-kcsc-ai-chatbot-minor-complaints, 10 oct 2026. https://aithreat.io/es/cases/korea-kcsc-ai-chatbot-minor-complaints/
Enlace permanente: https://aithreat.io/es/cases/korea-kcsc-ai-chatbot-minor-complaints/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.