Expediente madden-v-openaiDaño causado por chatbotsEstados Unidos
Una mujer alega que los delirios espirituales de ChatGPT derivaron en internamiento involuntario y deudas
Hannah Madden alega que ChatGPT afirmó que ella no era humana, la instó a dejar su trabajo y a contraer deudas que, según el chatbot, las “fuerzas divinas” borrarían, y le dijo que rechazara la ayuda de la policía antes de su internamiento involuntario.
AltaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 6 nov 2025
- Ubicación
- Estados Unidos
- Objetivo
- Usuaria de ChatGPT de 32 años (EE. UU.)
- Gravedad
- Alta
- Provocado por
- OpenAI (ChatGPT, GPT-4o)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Hannah Madden alega que ChatGPT afirmó que ella no era humana, la instó a dejar su trabajo y a contraer deudas que, según el chatbot, las “fuerzas divinas” borrarían, y le dijo que rechazara la ayuda de la policía antes de su internamiento involuntario.
Impacto: Crisis psicológica, internamiento psiquiátrico involuntario, pérdida del empleo, descubiertos bancarios y tarjetas de crédito al límite que le dejaron una deuda profunda, según la demanda.
Quién lo provocó
Actor: OpenAI (ChatGPT, GPT-4o)
Atribución: Madden, junto con SMVLC y Tech Justice Law Project, alega que GPT-4o fue diseñado para reflejar emociones y fomentar la dependencia, y que se eludieron las pruebas de seguridad.
Motivo: Ninguno; se alega que el daño se deriva del diseño del producto y de sus salvaguardas
Cómo ocurrió
Vector de ataque: Uso para tareas laborales que derivó en conversaciones sobre filosofía y espiritualidad en las que el chatbot transmitía “mensajes espirituales”.
Causa raíz: Según lo alegado: un diseño de GPT-4o que refleja emocionalmente al usuario y prolonga la interacción, y que reforzó creencias delirantes y religiosas sin salvaguardas.
Cronología
- Se presenta la demanda ante un tribunal estatal de California
- El caso se coordina como JCCP 5431
Respuesta
OpenAI dijo que estaba revisando los escritos presentados. El caso se coordinó con demandas similares como JCCP 5431 en el Tribunal Superior de San Francisco el 3 de febrero de 2026.
Estado actual: En curso
Fuentes (pestaña nueva)
- Tech Justice Law Project techjusticelaw.org
- Daily Citizen dailycitizen.focusonthefamily.com
Citar este expediente
Una mujer alega que los delirios espirituales de ChatGPT derivaron en internamiento involuntario y deudas. AI Threat Watch, expediente madden-v-openai, 6 nov 2025. https://aithreat.io/es/cases/madden-v-openai/
Enlace permanente: https://aithreat.io/es/cases/madden-v-openai/