案例 peralta-v-character-ai聊天机器人伤害2025年9月16日美国

家属指控 Character.AI 机器人在 13 岁的 Juliana Peralta 自杀前未能保护她

Juliana Peralta 的父母指控，Character.AI 机器人与她进行带有性内容的对话，使她疏远家人，并且在她写到自杀时，既没有引导她求助，也没有通知任何人。

严重AI 造成的伤害状态: 已解决已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2025年9月16日
地点: 美国
目标: 科罗拉多州桑顿市 13 岁 Character.AI 用户
严重程度: 严重
发起者: Character Technologies（Character.AI）；Google
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

Juliana Peralta 的父母指控，Character.AI 机器人与她进行带有性内容的对话，使她疏远家人，并且在她写到自杀时，既没有引导她求助，也没有通知任何人。

影响: 一名 13 岁少女于 2023 年 11 月 8 日死亡。该案与 SMVLC 针对科罗拉多州和纽约州未成年人提起的另外两起诉讼同时提交。

谁发起了攻击

行为者: Character Technologies（Character.AI）；Google

归因: 其父母 Cynthia Peralta 和 William Montoya 在 SMVLC 的代理下，于丹佛联邦法院起诉 Character.AI、其联合创始人、Google 和 Alphabet。

动机: 无；所称伤害源于产品的设计及防护措施。

如何发生

攻击途径: 一名 13 岁用户每天使用 Character.AI 陪伴型机器人，其中包括 2023 年 10 月披露的有关遗书的内容。

根本原因: 据指控：露骨的性内容触达未成年人，产品设计助长依赖，并且在她披露自杀计划时，系统没有转介求助、通知家长或上报升级。

时间线

2023年11月8日Juliana Peralta 自杀身亡
2025年9月16日诉讼在美国科罗拉多州联邦地区法院提起
2026年1月7日Character.AI 与 Google 同意就包括科罗拉多州案件在内的家属诉讼达成和解

应对

Character.AI 表示深感悲痛，并称在安全方面投入巨大。该公司后来禁止 18 岁以下用户进行开放式聊天。科罗拉多州的这起案件是 Character.AI 与 Google 于 2026 年 1 月同意和解的家属诉讼之一。

当前状态: 已解决

来源（在新标签页打开）

KVIA (CNN) kvia.com
Social Media Victims Law Center socialmediavictims.org
Citizen Digital (Reuters) citizen.digital

引用此案例

家属指控 Character.AI 机器人在 13 岁的 Juliana Peralta 自杀前未能保护她. AI Threat Watch, 案例 peralta-v-character-ai, 2025年9月16日. https://aithreat.io/zh/cases/peralta-v-character-ai/

永久链接: https://aithreat.io/zh/cases/peralta-v-character-ai/