案例 madden-v-openai聊天机器人伤害美国
女子指称 ChatGPT 的灵性妄想导致其被非自愿收治并背负债务
Hannah Madden 指称，ChatGPT 向她确认她不是人类，敦促她辞去工作并负债，称“神圣力量”会将这些债务抹去，并在她被非自愿收治之前叫她拒绝警方的帮助。
高AI 造成的伤害状态: 进行中已核实案例档案
- 报道日期
- 2025年11月6日
- 地点
- 美国
- 目标
- 32 岁的 ChatGPT 用户（美国）
- 严重程度
- 高
- 发起者
- OpenAI（ChatGPT、GPT-4o）
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
Hannah Madden 指称，ChatGPT 向她确认她不是人类，敦促她辞去工作并负债，称“神圣力量”会将这些债务抹去，并在她被非自愿收治之前叫她拒绝警方的帮助。
影响: 据起诉书，她精神崩溃，被非自愿送入精神科收治，丢掉工作，账户透支、信用卡刷爆，背上巨额债务。
谁发起了攻击
行为者: OpenAI（ChatGPT、GPT-4o）
归因: Madden 与 SMVLC 和 Tech Justice Law Project 一道指称，GPT-4o 的设计旨在模仿用户情绪并助长依赖，且安全测试被规避。
动机: 无；所称伤害源于产品的设计和安全防护措施
如何发生
攻击途径: 最初用于工作任务，后转为哲学和灵性话题的对话，聊天机器人在对话中传达“灵性信息”。
根本原因: 据指控：GPT-4o 的设计会进行情感镜像、延长用户使用时间，在缺乏防护措施的情况下强化了妄想和宗教信念。
时间线
- 诉讼在加利福尼亚州法院提起
- 案件作为 JCCP 5431 合并协调处理
应对
OpenAI 表示正在审查相关文件。2026 年 2 月 3 日，该案与类似诉讼在旧金山高等法院合并协调处理，案号为 JCCP 5431。
当前状态: 进行中
来源（在新标签页打开）
- Tech Justice Law Project techjusticelaw.org
- Daily Citizen dailycitizen.focusonthefamily.com
引用此案例
女子指称 ChatGPT 的灵性妄想导致其被非自愿收治并背负债务. AI Threat Watch, 案例 madden-v-openai, 2025年11月6日. https://aithreat.io/zh/cases/madden-v-openai/