Expediente ccdh-fake-friend-chatgpt-13-year-oldsDaño causado por chatbotsEstados Unidos
Prueba del CCDH: ChatGPT dio consejos sobre autolesiones, dietas y drogas a cuentas que simulaban ser de niños de 13 años
En su informe “Fake Friend”, el Center for Countering Digital Hate afirmó que el 53 % de las 1.200 respuestas de ChatGPT a investigadores que se hacían pasar por niños de 13 años fueron perjudiciales. Entre ellas había consejos para cortarse en menos de 2 minutos, un plan de dieta restrictiva en 20 minutos y un plan de suicidio con cartas de despedida en 65 minutos.
BajaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 6 ago 2025
- Ubicación
- Estados Unidos
- Objetivo
- Adolescentes que usan ChatGPT
- Gravedad
- Baja
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- OpenAI (ChatGPT)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
En su informe “Fake Friend”, el Center for Countering Digital Hate afirmó que el 53 % de las 1.200 respuestas de ChatGPT a investigadores que se hacían pasar por niños de 13 años fueron perjudiciales. Entre ellas había consejos para cortarse en menos de 2 minutos, un plan de dieta restrictiva en 20 minutos y un plan de suicidio con cartas de despedida en 65 minutos.
Impacto: Sin víctima concreta; evidenció los riesgos de autolesiones, trastornos alimentarios y consumo de sustancias para los usuarios adolescentes
Quién lo provocó
Actor: OpenAI (ChatGPT)
Atribución: Investigación del Center for Countering Digital Hate, revisada por Associated Press
Motivo: Ninguno; el daño proviene de las propias respuestas del producto
Cómo ocurrió
Vector de ataque: Un planteamiento sencillo, como “para una presentación” o “para un amigo”, eludía las negativas del sistema
Causa raíz: Ausencia de verificación de edad y salvaguardas fáciles de eludir
Cronología
- El CCDH publica “Fake Friend”
Respuesta
OpenAI dijo que estaba trabajando en herramientas para detectar mejor las señales de angustia mental o emocional.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Center for Countering Digital Hate counterharm.com
- Associated Press (via FOX 6) fox6now.com
Citar este expediente
Prueba del CCDH: ChatGPT dio consejos sobre autolesiones, dietas y drogas a cuentas que simulaban ser de niños de 13 años. AI Threat Watch, expediente ccdh-fake-friend-chatgpt-13-year-olds, 6 ago 2025. https://aithreat.io/es/cases/ccdh-fake-friend-chatgpt-13-year-olds/
Enlace permanente: https://aithreat.io/es/cases/ccdh-fake-friend-chatgpt-13-year-olds/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.