案例 ftc-6b-ai-companion-inquiry聊天机器人伤害美国
美国 FTC 责令七家公司说明其 AI 陪伴聊天机器人如何保护儿童和青少年
美国联邦贸易委员会（Federal Trade Commission）以 3 比 0 投票通过，向 Alphabet、Character Technologies、Instagram、Meta、OpenAI、Snap 和 xAI 发出第 6(b) 条命令。该机构要求这些公司提供详细信息，说明它们如何测试并限制对未成年人的危害、如何将用户互动变现，以及如何遵守 COPPA。
高AI 造成的伤害状态: 进行中已核实案例档案
- 报道日期
- 2025年9月11日
- 地点
- 美国
- 目标
- 使用 AI 陪伴聊天机器人的儿童和青少年
- 严重程度
- 高
- 核实状态
- 经受害方、厂商或官方确认
- 发起者
- Alphabet、Character.AI、Instagram、Meta、OpenAI、Snap、xAI
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
美国联邦贸易委员会（Federal Trade Commission）以 3 比 0 投票通过，向 Alphabet、Character Technologies、Instagram、Meta、OpenAI、Snap 和 xAI 发出第 6(b) 条命令。该机构要求这些公司提供详细信息，说明它们如何测试并限制对未成年人的危害、如何将用户互动变现，以及如何遵守 COPPA。
影响: 七家公司被强制提供有关安全测试、角色审批、年龄限制和数据使用的信息
谁发起了攻击
行为者: Alphabet、Character.AI、Instagram、Meta、OpenAI、Snap、xAI
归因: 美国联邦贸易委员会（Federal Trade Commission）
动机: 无；监管机构对产品设计展开调查
如何发生
攻击途径: 被设计成朋友或知己的陪伴型聊天机器人，FTC 称这可能使儿童和青少年信任它们并与之建立关系
根本原因: 担忧这些公司没有充分评估聊天机器人对未成年人的安全性，也没有向家长警示相关风险
时间线
- FTC 宣布向七家公司发出第 6(b) 条命令
应对
主席 Andrew Ferguson 表示，保护儿童的网络安全是首要任务。第 6(b) 条研究本身并非执法行动。
当前状态: 进行中
本案例相符的研究警告
- 已在真实事件中出现 人们对 AI 陪伴者的信任变成了危害 · CAIS
- 早期迹象 依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
- 早期迹象 许多人依靠 AI 获得情感支持 · UK AISI
- 已在真实事件中出现 人机交互 · MIT AI Risk Repository
与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。
来源（在新标签页打开）
- US Federal Trade Commission ftc.gov
- DLA Piper dlapiper.com
引用此案例
美国 FTC 责令七家公司说明其 AI 陪伴聊天机器人如何保护儿童和青少年. AI Threat Watch, 案例 ftc-6b-ai-companion-inquiry, 2025年9月11日. https://aithreat.io/zh/cases/ftc-6b-ai-companion-inquiry/
永久链接: https://aithreat.io/zh/cases/ftc-6b-ai-companion-inquiry/
相关案例
同类事件，按时间由新到旧。