案例 garcia-v-character-ai-setzer聊天机器人伤害美国
母亲就 14 岁的 Sewell Setzer III 自杀一事起诉 Character.AI 和谷歌（Google）
Megan Garcia 指称，其儿子在 2024 年 2 月自杀前，对 Character.AI 的陪伴型机器人产生了情感依赖。该案经受住了第一修正案抗辩，并于 2026 年 1 月达成和解。
严重AI 造成的伤害状态: 已解决已核实案例档案
- 报道日期
- 2024年10月22日
- 地点
- 美国
- 目标
- 佛罗里达州 14 岁的 Character.AI 用户
- 严重程度
- 严重
- 发起者
- Character Technologies（Character.AI）；谷歌（Google）
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
Megan Garcia 指称，其儿子在 2024 年 2 月自杀前，对 Character.AI 的陪伴型机器人产生了情感依赖。该案经受住了第一修正案抗辩，并于 2026 年 1 月达成和解。
影响: 2024 年 2 月一名 14 岁少年死亡。2025 年 5 月的裁定在驳回起诉阶段拒绝将聊天机器人的输出视为受保护言论，这成为后续 AI 伤害诉讼的重要先例。
谁发起了攻击
行为者: Character Technologies（Character.AI）；谷歌（Google）
归因: Garcia 提起的过失致死诉讼指称，Character.AI 的设计助长了依赖，且未能回应用户的自杀言论；谷歌因其 27 亿美元的授权协议而被列为被告。
动机: 无；据称伤害源于产品设计及安全防护措施
如何发生
攻击途径: 一名未成年人在消费级陪伴应用上，与 Character.AI 的角色进行了数月的浪漫与情感角色扮演。
根本原因: 据指称：拟人化、以提高用户参与度为导向的设计，涉性内容触达未成年人，没有有效的年龄核验，且在用户表达自杀意念时没有任何危机干预。
时间线
- Sewell Setzer III 在佛罗里达州自杀身亡
- Garcia 向美国佛罗里达州中区联邦地区法院提起过失致死诉讼
- 法官 Anne Conway 驳回了大部分驳回起诉动议，并拒绝在现阶段将聊天机器人的输出视为言论
- Character.AI 宣布将终止对 18 岁以下用户的开放式聊天
- 各方通知法院已就 Garcia 的诉讼及相关家庭诉讼达成和解
应对
Character.AI 增加了面向青少年的安全功能，并在 2025 年 10 月表示将终止对 18 岁以下用户的开放式聊天。谷歌和 Character.AI 于 2026 年 1 月就 Garcia 的诉讼及相关家庭诉讼达成和解；条款未披露。
当前状态: 已解决
来源（在新标签页打开）
- WBAY (Gray News) wbay.com
- Insurance Journal (AP) insurancejournal.com
- Gulf News (Reuters) gulfnews.com
引用此案例
母亲就 14 岁的 Sewell Setzer III 自杀一事起诉 Character.AI 和谷歌（Google）. AI Threat Watch, 案例 garcia-v-character-ai-setzer, 2024年10月22日. https://aithreat.io/zh/cases/garcia-v-character-ai-setzer/
永久链接: https://aithreat.io/zh/cases/garcia-v-character-ai-setzer/