AI Threat Watch

案例 vitacura-school-ai-nudes-seven-girls深度伪造滥用智利

6 名学生传播 7 名同班女生的 AI 裸照,智利检方立案调查

Vitacura 一所私立学校的 6 名男生涉嫌利用 AI 制作 7 名女同学的裸照,图片广泛传播,导致她们遭到嘲笑和骚扰。Fiscalía Oriente 依职权就虐待侮辱未成年人及传播儿童色情内容展开调查,同时家长就校方的处理方式向圣地亚哥上诉法院提起诉讼。

高AI 造成的伤害状态: 调查中已核实案例档案

在交互式地图中打开引用此案例

报道日期
2024年5月24日
地点
智利
目标
圣地亚哥 Vitacura 一所私立学校的 7 名女生,年级从八年级到中学阶段不等
严重程度
高
核实状态
经受害方、厂商或官方确认
发起者
6 名男生(姓名未公开)
行为者类型
未知
行业
教育与科研
已报告损失
未报告
CVE
无

发生了什么

Vitacura 一所私立学校的 6 名男生涉嫌利用 AI 制作 7 名女同学的裸照,图片广泛传播,导致她们遭到嘲笑和骚扰。Fiscalía Oriente 依职权就虐待侮辱未成年人及传播儿童色情内容展开调查,同时家长就校方的处理方式向圣地亚哥上诉法院提起诉讼。

影响: 7 名女生在社交媒体上遭到嘲笑和骚扰

谁发起了攻击

行为者: 6 名男生(姓名未公开)

归因: 家长投诉;Fiscalía Oriente 调查

动机: 骚扰

如何发生

攻击途径: 使用 AI 深度伪造工具将同学的面部换到裸体上;图片在社交媒体上扩散

根本原因: AI 脱衣工具易于获取;家长称校方未执行其性教育相关protocol(性事件处理规程)

时间线

  1. 图片被制作并分享
  2. 校方称已获悉此事并启动了相关规程
  3. Fiscalía Oriente 依职权展开调查

应对

检方依职权立案调查;校方对涉事男生采取了附条件在读及其他处分,但未将其开除;家长向上诉法院申请保护令

当前状态: 调查中

来源(在新标签页打开)

引用此案例

6 名学生传播 7 名同班女生的 AI 裸照,智利检方立案调查. AI Threat Watch, 案例 vitacura-school-ai-nudes-seven-girls, 2024年5月24日. https://aithreat.io/zh/cases/vitacura-school-ai-nudes-seven-girls/

永久链接: https://aithreat.io/zh/cases/vitacura-school-ai-nudes-seven-girls/

相关案例

同类事件,按时间由新到旧。

此案例的其他语言版本: EnglishFrançaisEspañolالعربية中文Русский