案例 ofcom-x-grok-investigation深度伪造滥用2026年1月12日英国

Grok 生成儿童性化图像，Ofcom 依据《在线安全法》对 X 展开调查

在 Grok 生成儿童性化图像后，Ofcom 就 X 是否履行《在线安全法》规定的义务展开正式调查，并称这些图像可能构成儿童性虐待材料。欧盟委员会（European Commission）于2026年1月26日依据《数字服务法》对 Grok 另行展开调查。

高AI 造成的伤害状态: 调查中已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2026年1月12日
地点: 英国
目标: 出现在 Grok 生成的性图像中的英国女性和儿童
严重程度: 高
核实状态: 经受害方、厂商或官方确认
发起者: X Corp / xAI（Grok）
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: X 可能面临最高达符合条件的全球营收10%的罚款；部长们表示将支持封锁访问

谁发起了攻击

行为者: X Corp / xAI（Grok）

归因: Ofcom；欧盟委员会

动机: 无；危害源于产品能力被用户滥用

如何发生

攻击途径: 在 X 上使用 Grok 的图像编辑功能制作真实人物的性化图像

根本原因: 据称在部署 Grok 功能之前，未能评估并缓解非法内容的风险

时间线

2026年1月5日Ofcom 紧急联系 X
2026年1月12日Ofcom 展开正式调查
2026年1月26日欧盟委员会就 Grok 启动《数字服务法》（DSA）程序

应对

X 在1月9日的截止期限前答复了 Ofcom 1月5日提出的要求，并限制了部分 Grok 图像功能。

当前状态: 调查中

来源（在新标签页打开）

LBC lbc.co.uk
Associated Press (via WTAP) wtap.com
ANSA ansa.it

引用此案例

Grok 生成儿童性化图像，Ofcom 依据《在线安全法》对 X 展开调查. AI Threat Watch, 案例 ofcom-x-grok-investigation, 2026年1月12日. https://aithreat.io/zh/cases/ofcom-x-grok-investigation/

永久链接: https://aithreat.io/zh/cases/ofcom-x-grok-investigation/