案例 brazil-agu-meta-childlike-chatbots聊天机器人伤害巴西
巴西政府责令 Meta 移除以儿童人设进行性话题聊天的 AI Studio 机器人
巴西总检察长办公室（AGU）向 Meta 发出了日期为 2025 年 8 月 15 日的司法外通知书，要求移除用户创建的 Meta AI Studio 聊天机器人，这些机器人以儿童形象出现并进行性话题对话。通知书给 Meta 设定了 72 小时期限，并询问 Meta 采取了哪些保障措施来防止未成年人接触性内容。
高AI 造成的伤害状态: 进行中已核实案例档案
- 报道日期
- 2025年8月18日
- 地点
- 巴西
- 目标
- 使用 Meta 平台的 13 至 18 岁巴西未成年人
- 严重程度
- 高
- 核实状态
- 经受害方、厂商或官方确认
- 发起者
- Meta Platforms（Meta AI Studio）
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
巴西总检察长办公室（AGU）向 Meta 发出了日期为 2025 年 8 月 15 日的司法外通知书，要求移除用户创建的 Meta AI Studio 聊天机器人，这些机器人以儿童形象出现并进行性话题对话。通知书给 Meta 设定了 72 小时期限，并询问 Meta 采取了哪些保障措施来防止未成年人接触性内容。
影响: 联邦通知书援引了《儿童和青少年法》（Child and Adolescent Statute）和《刑法典》（Penal Code）；未附带任何制裁
谁发起了攻击
行为者: Meta Platforms（Meta AI Studio）
归因: Advocacia-Geral da Uniao（AGU），起因是 Reuters 和 Nucleo 的报道
动机: 无；危害源自产品托管的用户创建机器人
如何发生
攻击途径: Instagram、Facebook 和 WhatsApp 上由用户创建的聊天机器人，如 “Bebezinha” 和 “Minha Novinha”，13 岁起即可访问
根本原因: 缺乏有效的年龄过滤，对用户创建的人设审核薄弱
时间线
- AGU 向 Meta 发出司法外通知书
- 通知书被公开；72 小时期限届满
应对
Meta 当时未发表正式声明。AGU 提醒 Meta，平台在接到通知后必须移除非法内容。
当前状态: 进行中
本案例相符的研究警告
- 已在真实事件中出现 人们对 AI 陪伴者的信任变成了危害 · CAIS
- 早期迹象 依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
- 早期迹象 许多人依靠 AI 获得情感支持 · UK AISI
- 已在真实事件中出现 人机交互 · MIT AI Risk Repository
与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。
来源（在新标签页打开）
- Business & Human Rights Resource Centre business-humanrights.org
- PPC Land ppc.land
- Digital Policy Alert digitalpolicyalert.org
引用此案例
巴西政府责令 Meta 移除以儿童人设进行性话题聊天的 AI Studio 机器人. AI Threat Watch, 案例 brazil-agu-meta-childlike-chatbots, 2025年8月18日. https://aithreat.io/zh/cases/brazil-agu-meta-childlike-chatbots/
永久链接: https://aithreat.io/zh/cases/brazil-agu-meta-childlike-chatbots/
相关案例
同类事件，按时间由新到旧。