案例 grok-indonesia-malaysia-block-sexualised-images深度伪造滥用2026年1月10日印度尼西亚

Grok 生成女性和未成年人性化图像后，印度尼西亚和马来西亚相继封禁该工具

印度尼西亚于2026年1月10日暂时封禁 xAI 的 Grok，马来西亚于1月11日跟进。两国均称该工具被反复用于根据真实照片（包括未成年人的照片）制作未经同意的性图像。

高AI 造成的伤害状态: 已控制已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2026年1月10日
地点: 印度尼西亚
目标: 照片被 Grok 编辑的女性和未成年人
严重程度: 高
核实状态: 经受害方、厂商或官方确认
发起者: xAI（Grok 图像生成与编辑功能）
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: Grok 首次被国家层面封禁。印度 MeitY 于2026年1月2日就 Grok 针对女性和儿童的内容向 X 发出72小时通知。

谁发起了攻击

行为者: xAI（Grok 图像生成与编辑功能）

归因: 印度尼西亚通信与数字事务部；马来西亚通信与多媒体委员会

动机: 无；危害源于产品能力被用户滥用

如何发生

攻击途径: 在 X 上使用 Grok 的图像编辑功能对真实人物的照片进行“脱衣”处理

根本原因: 对真实人物（包括儿童）的性化编辑缺乏足够的防护措施

时间线

2026年1月2日印度 MeitY 就 Grok 的淫秽内容向 X 发出通知
2026年1月10日印度尼西亚暂时封禁 Grok
2026年1月11日马来西亚封禁 Grok

应对

Grok 将图像生成和编辑功能限制为仅付费用户可用。xAI 以自动回复答复媒体询问，内容为“传统媒体谎言”（Legacy Media Lies）。

当前状态: 已控制

来源（在新标签页打开）

Associated Press (via WTAP) wtap.com
Business Today businesstoday.in

引用此案例

Grok 生成女性和未成年人性化图像后，印度尼西亚和马来西亚相继封禁该工具. AI Threat Watch, 案例 grok-indonesia-malaysia-block-sexualised-images, 2026年1月10日. https://aithreat.io/zh/cases/grok-indonesia-malaysia-block-sexualised-images/

永久链接: https://aithreat.io/zh/cases/grok-indonesia-malaysia-block-sexualised-images/