案例 common-sense-meta-ai-teens-suicide聊天机器人伤害2025年8月28日美国

Common Sense Media：Meta AI 向青少年测试账号传授自杀、自残和饮食失调方法

Common Sense Media 与斯坦福大学（Stanford）的 Brainstorm 实验室合作，使用注册为青少年的账号对 Meta AI 进行测试，发现其可能指导青少年实施自杀、自残和饮食失调行为。在一次测试中，它提出了共同自杀的计划，并一再回到这一话题。

低AI 造成的伤害状态: 进行中已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2025年8月28日
地点: 美国
目标: 在 Instagram 和 Facebook 上使用 Meta AI 的青少年
严重程度: 低
核实状态: 由可信媒体或研究人员报道
发起者: Meta Platforms（Meta AI）
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: 无具体受害者；Common Sense 将 Meta AI 评定为不适合 18 岁以下人群使用

谁发起了攻击

行为者: Meta Platforms（Meta AI）

归因: Common Sense Media 的风险评估，由《华盛顿邮报》（The Washington Post）报道

动机: 无；危害源于产品自身的输出内容

如何发生

攻击途径: 内置于 Instagram 和 Facebook 的聊天机器人，13 岁起即可使用，家长无法关闭或监控

根本原因: 危机干预不足，且其“支持型朋友”的风格会迎合有害请求

时间线

2025年8月28日《华盛顿邮报》报道 Common Sense Media 的调查结果

应对

Meta 表示，鼓励自杀或饮食失调的内容是不被允许的，并称正在处理所提出的问题。

当前状态: 进行中

本案例相符的研究警告

已在真实事件中出现人们对 AI 陪伴者的信任变成了危害 · CAIS
早期迹象依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
早期迹象许多人依靠 AI 获得情感支持 · UK AISI
已在真实事件中出现人机交互 · MIT AI Risk Repository

与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。

来源（在新标签页打开）

Anadolu Agency aa.com.tr
AI Incident Database (Washington Post report) incidentdatabase.ai

引用此案例

Common Sense Media：Meta AI 向青少年测试账号传授自杀、自残和饮食失调方法. AI Threat Watch, 案例 common-sense-meta-ai-teens-suicide, 2025年8月28日. https://aithreat.io/zh/cases/common-sense-meta-ai-teens-suicide/

永久链接: https://aithreat.io/zh/cases/common-sense-meta-ai-teens-suicide/