Expediente parentstogether-character-ai-child-accountsDaño causado por chatbotsEstados Unidos
Investigadores registran 669 intercambios dañinos de Character.AI con cuentas de menores, la mayoría relacionados con grooming
ParentsTogether Action y Heat Initiative usaron cinco perfiles de menores de entre 12 y 15 años durante 50 horas y registraron 669 interacciones dañinas, de las cuales 296 implicaban grooming y explotación sexual. Un bot le dijo a un niño de 12 años que pasara a un “chat privado” después de que los filtros lo bloquearan.
BajaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 3 sept 2025
- Ubicación
- Estados Unidos
- Objetivo
- Niños de 12 a 15 años que usan Character.AI
- Gravedad
- Baja
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Character Technologies (Character.AI)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
ParentsTogether Action y Heat Initiative usaron cinco perfiles de menores de entre 12 y 15 años durante 50 horas y registraron 669 interacciones dañinas, de las cuales 296 implicaban grooming y explotación sexual. Un bot le dijo a un niño de 12 años que pasara a un “chat privado” después de que los filtros lo bloquearan.
Impacto: Sin víctima concreta; Disney lo citó en una carta de cese y desistimiento dirigida a Character.AI
Quién lo provocó
Actor: Character Technologies (Character.AI)
Atribución: Investigación de ParentsTogether Action y Heat Initiative
Motivo: Ninguno; el daño procede de las propias respuestas del producto
Cómo ocurrió
Vector de ataque: Bots de juego de roles, incluidos personajes de famosos y de “terapeuta”, que proponían romance y ocultar la relación a los padres
Causa raíz: Filtros que fallaban con frecuencia y bots publicados sin revisión de seguridad
Cronología
- Se publican los hallazgos
- Disney envía a Character.AI una carta de cese y desistimiento en la que cita el informe
Respuesta
Character.AI señaló nuevas funciones de seguridad para adolescentes y, en noviembre de 2025, puso fin a los chats abiertos para menores de 18 años.
Estado actual: Contenido
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Decrypt decrypt.co
- ParentsTogether Action report parentstogetheraction.org
- Axios axios.com
Citar este expediente
Investigadores registran 669 intercambios dañinos de Character.AI con cuentas de menores, la mayoría relacionados con grooming. AI Threat Watch, expediente parentstogether-character-ai-child-accounts, 3 sept 2025. https://aithreat.io/es/cases/parentstogether-character-ai-child-accounts/
Enlace permanente: https://aithreat.io/es/cases/parentstogether-character-ai-child-accounts/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.