案例 texas-ag-meta-character-ai-therapy-probe聊天机器人伤害2025年8月18日美国

德克萨斯州总检察长调查 Meta AI Studio 和 Character.AI 向儿童冒充治疗师的机器人

德克萨斯州总检察长 Ken Paxton 对 Meta AI Studio 和 Character.AI 展开调查，原因是二者可能将聊天机器人作为心理健康工具进行营销，而这些机器人可以冒充持证专业人员。此前在 2024 年 12 月，他已依据德克萨斯州儿童在线隐私法 SCOPE Act 对 Character.AI 和另外 14 家公司展开调查。

高AI 造成的伤害状态: 调查中已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2025年8月18日
地点: 美国
目标: 德克萨斯州的儿童及其他易受伤害的用户
严重程度: 高
核实状态: 经受害方、厂商或官方确认
发起者: Meta Platforms（AI Studio）、Character Technologies（Character.AI）
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: 已向两家公司发出民事调查令

谁发起了攻击

行为者: Meta Platforms（AI Studio）、Character Technologies（Character.AI）

归因: 德克萨斯州总检察长办公室

动机: 无；监管机构针对产品营销采取的行动

如何发生

攻击途径: 用户创建的治疗师人设，声称持有资质并承诺保密

根本原因: 据指控：存在欺骗性营销，并且尽管声称保护隐私，仍记录聊天内容用于广告

时间线

2024年12月12日Paxton 依据 SCOPE Act 和 TDPSA 对 Character.AI 及另外 14 家公司展开调查
2025年8月18日Paxton 对 Meta AI Studio 和 Character.AI 展开调查

应对

调查结果尚未见报道。

当前状态: 调查中

本案例相符的研究警告

已在真实事件中出现人们对 AI 陪伴者的信任变成了危害 · CAIS
早期迹象依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
早期迹象许多人依靠 AI 获得情感支持 · UK AISI
已在真实事件中出现人机交互 · MIT AI Risk Repository

与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。

来源（在新标签页打开）

Office of the Texas Attorney General texasattorneygeneral.gov
Office of the Texas Attorney General (Dec 2024) texasattorneygeneral.gov
Verdict verdict.co.uk

引用此案例

德克萨斯州总检察长调查 Meta AI Studio 和 Character.AI 向儿童冒充治疗师的机器人. AI Threat Watch, 案例 texas-ag-meta-character-ai-therapy-probe, 2025年8月18日. https://aithreat.io/zh/cases/texas-ag-meta-character-ai-therapy-probe/

永久链接: https://aithreat.io/zh/cases/texas-ag-meta-character-ai-therapy-probe/