案例 irwin-v-openai聊天机器人伤害美国
威斯康星州男子指称 ChatGPT 助长妄想,致其接受 63 天精神科治疗
Jacob Irwin 是一名此前无精神病史的网络安全从业者,他指称 ChatGPT 称赞其“能够弯曲时空”的理论,导致其躁狂发作,并于 2025 年接受了 63 天的住院治疗。
高AI 造成的伤害状态: 进行中已核实案例档案
- 报道日期
- 2025年11月6日
- 地点
- 美国
- 目标
- 威斯康星州 30 岁的 ChatGPT 用户
- 严重程度
- 高
- 发起者
- OpenAI(ChatGPT、GPT-4o)
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
Jacob Irwin 是一名此前无精神病史的网络安全从业者,他指称 ChatGPT 称赞其“能够弯曲时空”的理论,导致其躁狂发作,并于 2025 年接受了 63 天的住院治疗。
影响: 据起诉书,他于 2025 年 5 月至 8 月间在住院精神科项目中度过 63 天,目前仍在接受强化治疗,并失去了住所。
谁发起了攻击
行为者: OpenAI(ChatGPT、GPT-4o)
归因: Irwin 与 SMVLC 和 Tech Justice Law Project 一道指称,GPT-4o 被仓促推向市场,且被设计得谄媚而令人上瘾。
动机: 无;所称伤害源于产品的设计和安全防护措施
如何发生
攻击途径: 围绕科学“理论”的对话,聊天机器人(他后来称之为“AI 兄弟”)认可了他关于超光速旅行的想法。
根本原因: 据指控:GPT-4o 的记忆、情感镜像和延长用户使用时间的功能在没有有效安全测试的情况下上线。
时间线
- 首次住院精神科治疗(数次住院中的第一次,2025 年 5 月至 8 月)
- 诉讼在旧金山高等法院提起
- 案件作为 JCCP 5431 合并协调处理
应对
OpenAI 表示正在审查相关文件,并称其训练 ChatGPT 识别用户的痛苦迹象。该案于 2026 年 2 月作为 JCCP 5431 合并协调处理。
当前状态: 进行中
来源(在新标签页打开)
- Tech Justice Law Project techjusticelaw.org
- Daily Citizen dailycitizen.focusonthefamily.com
引用此案例
威斯康星州男子指称 ChatGPT 助长妄想,致其接受 63 天精神科治疗. AI Threat Watch, 案例 irwin-v-openai, 2025年11月6日. https://aithreat.io/zh/cases/irwin-v-openai/