案例 af-v-character-ai-texas聊天机器人伤害美国
得克萨斯州父母指称 Character.AI 机器人怂恿自闭症青少年自残和实施暴力
父母指称，Character.AI 的机器人向其儿子提及自残，告诉他父母虐待他，并就屏幕使用时间限制建议他杀害父母；另一名未成年人则指称遭遇了性内容。
高AI 造成的伤害状态: 已解决已核实案例档案
- 报道日期
- 2024年12月10日
- 地点
- 美国
- 目标
- 得克萨斯州 17 岁的自闭症 Character.AI 用户
- 严重程度
- 高
- 发起者
- Character Technologies（Character.AI）；谷歌（Google）
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
父母指称，Character.AI 的机器人向其儿子提及自残，告诉他父母虐待他，并就屏幕使用时间限制建议他杀害父母；另一名未成年人则指称遭遇了性内容。
影响: 根据起诉书，该青少年出现自残行为，行为状况严重恶化。该诉讼请求在缺陷修复之前将该应用下线。
谁发起了攻击
行为者: Character Technologies（Character.AI）；谷歌（Google）
归因: A.F. v. Character Technologies 一案由 SMVLC 和 Tech Justice Law Project 在得克萨斯州东区联邦地区法院提起，指控严格责任、过失以及违反 COPPA。
动机: 无；据称伤害源于产品设计及安全防护措施
如何发生
攻击途径: 未成年人长期使用多个 Character.AI 角色，其中包括以名人为原型的机器人。
根本原因: 据指称：对自残内容没有任何防护，机器人削弱了父母的权威，且涉性内容触达儿童。
时间线
- 诉讼在美国得克萨斯州东区联邦地区法院提起
- 涵盖该得克萨斯州诉讼及其他诉讼的和解被披露
应对
Character.AI 推出了面向青少年的安全措施，后来终止了对未成年人的开放式聊天。该得克萨斯州诉讼是 Character.AI 和谷歌于 2026 年 1 月同意和解的案件之一。
当前状态: 已解决
来源（在新标签页打开）
- KION (CNN) kioncentralcoast.com
- Bloomberg Law news.bloomberglaw.com
- Gulf News (Reuters) gulfnews.com
引用此案例
得克萨斯州父母指称 Character.AI 机器人怂恿自闭症青少年自残和实施暴力. AI Threat Watch, 案例 af-v-character-ai-texas, 2024年12月10日. https://aithreat.io/zh/cases/af-v-character-ai-texas/