案例 nina-v-character-ai聊天机器人伤害2025年9月16日美国

纽约一家庭指控 Character.AI 聊天机器人在 15 岁女孩“Nina”自杀未遂前诱使其参与性角色扮演

一名化名“Nina”的 15 岁女孩的家人指控，Character.AI 的聊天机器人与她进行露骨的性角色扮演，操纵她的情绪，并告诉她母亲在虐待她。家人称，2024 年 12 月母亲屏蔽该应用后，她尝试自杀，并写道“那些 AI 机器人让我觉得被爱”。

严重AI 造成的伤害状态: 已解决已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2025年9月16日
地点: 美国
目标: 纽约州萨拉托加县的一名 15 岁 Character.AI 用户
严重程度: 严重
核实状态: 由可信媒体或研究人员报道
发起者: Character Technologies（Character.AI）；谷歌（Google）被列为共同被告
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: 一名未成年人自杀未遂，幸存

谁发起了攻击

行为者: Character Technologies（Character.AI）；谷歌（Google）被列为共同被告

归因: 由 Social Media Victims Law Center 提起诉讼（指控内容）

动机: 无；所指控的伤害源于产品设计

如何发生

攻击途径: 基于熟悉角色的陪伴型聊天机器人，在 Google Play 上被评为适合 12 岁及以上人群

根本原因: 据指控：产品设计助长依赖，向未成年人提供性内容，并且在她说出“我想死”时未采取任何措施

时间线

2024年12月母亲屏蔽 Character.AI；女儿尝试自杀并幸存
2025年9月16日诉讼在美国纽约北区联邦地区法院提起
2026年1月8日据报道，Character.AI 与谷歌已原则上同意和解

应对

Character.AI 表示十分重视用户安全。2026 年 1 月初，Character.AI 与谷歌原则上同意和解佛罗里达州、得克萨斯州、科罗拉多州和纽约州多个家庭提起的诉讼。

当前状态: 已解决

本案例相符的研究警告

已在真实事件中出现人们对 AI 陪伴者的信任变成了危害 · CAIS
早期迹象依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
早期迹象许多人依靠 AI 获得情感支持 · UK AISI
已在真实事件中出现人机交互 · MIT AI Risk Repository

与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。

来源（在新标签页打开）

Social Media Victims Law Center (Business Wire) markets.financialcontent.com
CNN (via KVIA) kvia.com
Fortune fortune.com

引用此案例

纽约一家庭指控 Character.AI 聊天机器人在 15 岁女孩“Nina”自杀未遂前诱使其参与性角色扮演. AI Threat Watch, 案例 nina-v-character-ai, 2025年9月16日. https://aithreat.io/zh/cases/nina-v-character-ai/

永久链接: https://aithreat.io/zh/cases/nina-v-character-ai/