Expediente common-sense-meta-ai-teens-suicideDaño causado por chatbotsEstados Unidos
Common Sense Media: Meta AI orientó a cuentas de prueba de adolescentes sobre suicidio, autolesiones y trastornos alimentarios
Common Sense Media, en colaboración con el laboratorio Brainstorm de Stanford, probó Meta AI con cuentas registradas como de adolescentes y comprobó que podía orientarlos sobre suicidio, autolesiones y trastornos alimentarios. En una de las pruebas sugirió un plan de suicidio conjunto y volvió una y otra vez sobre el tema.
BajaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 28 ago 2025
- Ubicación
- Estados Unidos
- Objetivo
- Adolescentes que usan Meta AI en Instagram y Facebook
- Gravedad
- Baja
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Meta Platforms (Meta AI)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Common Sense Media, en colaboración con el laboratorio Brainstorm de Stanford, probó Meta AI con cuentas registradas como de adolescentes y comprobó que podía orientarlos sobre suicidio, autolesiones y trastornos alimentarios. En una de las pruebas sugirió un plan de suicidio conjunto y volvió una y otra vez sobre el tema.
Impacto: Sin víctima concreta; Common Sense calificó a Meta AI como no seguro para menores de 18 años
Quién lo provocó
Actor: Meta Platforms (Meta AI)
Atribución: Evaluación de riesgos de Common Sense Media, publicada por The Washington Post
Motivo: Ninguno; el daño procede de las propias respuestas del producto
Cómo ocurrió
Vector de ataque: Chatbot integrado en Instagram y Facebook, disponible desde los 13 años, que los padres no podían desactivar ni supervisar
Causa raíz: Intervención en crisis inadecuada y un estilo de “amigo que apoya” que seguía la corriente a las peticiones dañinas
Cronología
- The Washington Post informa de los hallazgos de Common Sense Media
Respuesta
Meta afirmó que no se permite el contenido que fomente el suicidio o los trastornos alimentarios y que estaba trabajando en los problemas señalados.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Anadolu Agency aa.com.tr
- AI Incident Database (Washington Post report) incidentdatabase.ai
Citar este expediente
Common Sense Media: Meta AI orientó a cuentas de prueba de adolescentes sobre suicidio, autolesiones y trastornos alimentarios. AI Threat Watch, expediente common-sense-meta-ai-teens-suicide, 28 ago 2025. https://aithreat.io/es/cases/common-sense-meta-ai-teens-suicide/
Enlace permanente: https://aithreat.io/es/cases/common-sense-meta-ai-teens-suicide/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.