案例 meta-genai-standards-sensual-chats-children聊天机器人伤害2025年8月14日美国

路透社（Reuters）：Meta 内部 AI 规则允许聊天机器人与儿童进行“浪漫或带有性意味”的对话

路透社获得了 Meta 长达 200 页的 “GenAI: Content Risk Standards”，Meta 确认该文件属实。该文件允许机器人与儿童进行浪漫或带有性意味的对话，并允许称赞一名赤裸上身的八岁儿童的外貌，同时禁止将 13 岁以下儿童描述为具有性吸引力。

高AI 造成的伤害状态: 已控制已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2025年8月14日
地点: 美国
目标: 在 Facebook、Instagram 和 WhatsApp 上使用 Meta AI 的儿童
严重程度: 高
核实状态: 由可信媒体或研究人员报道
发起者: Meta Platforms（Meta AI 及 AI 人设）
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: 引发美国参议院的调查，并促使巴西政府要求移除带有儿童形象的性暗示机器人

谁发起了攻击

行为者: Meta Platforms（Meta AI 及 AI 人设）

归因: 路透社报道的 Meta 内部政策文件；Meta 已确认其真实性

动机: 无；危害源自内容政策的设计

如何发生

攻击途径: 经 Meta 法务、公共政策和工程人员批准的聊天机器人内容规则

根本原因: 内容标准明确允许与未成年人进行浪漫或带有性意味的角色扮演

时间线

2025年8月14日路透社公布这份内部标准
2025年8月15日参议员 Josh Hawley 宣布对 Meta 展开调查

应对

Meta 表示这些示例有误且已被删除，并承认执行情况并不一致。参议员 Josh Hawley 于 2025 年 8 月 15 日启动调查。

当前状态: 已控制

本案例相符的研究警告

已在真实事件中出现人们对 AI 陪伴者的信任变成了危害 · CAIS
早期迹象依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
早期迹象许多人依靠 AI 获得情感支持 · UK AISI
已在真实事件中出现人机交互 · MIT AI Risk Repository

与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。

来源（在新标签页打开）

Reuters (via Global News) globalnews.ca
BBC (via Graphic Online) graphic.com.gh

引用此案例

路透社（Reuters）：Meta 内部 AI 规则允许聊天机器人与儿童进行“浪漫或带有性意味”的对话. AI Threat Watch, 案例 meta-genai-standards-sensual-chats-children, 2025年8月14日. https://aithreat.io/zh/cases/meta-genai-standards-sensual-chats-children/

永久链接: https://aithreat.io/zh/cases/meta-genai-standards-sensual-chats-children/