AI Threat Watch

案例 japan-npa-classmate-deepfakes-minors深度伪造滥用日本

日本警方:针对未成年人的性深度伪造内容中,超过半数由同学制作,许多取材于校园照片

日本警察厅(National Police Agency)在 2025 年 1 月至 9 月间收到 79 起涉及 18 岁以下未成年人性深度伪造内容的咨询,其中 53.2% 的案件由同校学生制作,素材常来自学校活动照片和毕业纪念册照片。案例包括一名初中男生因诽谤被移送检方,以及若干初中生因利用学校平板电脑上的照片制作深度伪造内容而被警方保护。

高AI 造成的伤害状态: 进行中已核实案例档案

在交互式地图中打开引用此案例

报道日期
2025年9月1日
地点
日本
目标
日本的小学生、初中生和高中生
严重程度
高
核实状态
经受害方、厂商或官方确认
发起者
主要是同班同学和高年级校友(未具名)
行为者类型
未知
行业
教育与科研
已报告损失
未报告
CVE
无

发生了什么

日本警察厅(National Police Agency)在 2025 年 1 月至 9 月间收到 79 起涉及 18 岁以下未成年人性深度伪造内容的咨询,其中 53.2% 的案件由同校学生制作,素材常来自学校活动照片和毕业纪念册照片。案例包括一名初中男生因诽谤被移送检方,以及若干初中生因利用学校平板电脑上的照片制作深度伪造内容而被警方保护。

影响: 九个月内共 79 起案件,其中 41 起涉及初中生;4 人被逮捕或移送检方,6 名未成年人被警方保护

谁发起了攻击

行为者: 主要是同班同学和高年级校友(未具名)

归因: 日本警察厅(National Police Agency)数据

动机: 骚扰和欺凌同龄人

如何发生

攻击途径: 将生成式 AI 和图像编辑应用用于学校活动照片、毕业相册照片和社交媒体照片

根本原因: 儿童色情相关法律以描绘真实儿童为前提,导致深度伪造内容难以追究

时间线

  1. 鸟取县修订条例,禁止制作儿童性伪造图像
  2. 《读卖新闻》(Yomiuri)报道警方查处的未成年人利用校园照片对同龄人制作深度伪造内容的案件
  3. 日本警察厅数据:2025 年 1 月至 9 月共 79 起案件,53.2% 由同校学生制作

应对

日本警察厅研究了约 10 款热门图像生成应用;警方适用了诽谤罪和淫秽相关法律;鸟取县于 2025 年 8 月禁止制作儿童性伪造图像

当前状态: 进行中

来源(在新标签页打开)

引用此案例

日本警方:针对未成年人的性深度伪造内容中,超过半数由同学制作,许多取材于校园照片. AI Threat Watch, 案例 japan-npa-classmate-deepfakes-minors, 2025年9月1日. https://aithreat.io/zh/cases/japan-npa-classmate-deepfakes-minors/

永久链接: https://aithreat.io/zh/cases/japan-npa-classmate-deepfakes-minors/

相关案例

同类事件,按时间由新到旧。

此案例的其他语言版本: EnglishFrançaisEspañolالعربية中文Русский