案例 south-korea-telegram-school-deepfake-crisis深度伪造滥用2024年8月28日韩国

韩国校园深度伪造危机：Telegram 聊天室针对学生，总统尹锡悦下令严打

2024 年 8 月，人们发现与学校和大学相关的 Telegram 聊天室在传播女学生的 AI 性深度伪造内容，其中一个约有 1200 名成员的聊天室针对 30 多名仁荷大学（Inha University）学生；警方称 2024 年初查明的嫌疑人中 73.6% 为未成年人。总统尹锡悦下令严打，警方启动为期七个月的专项行动，9 月 26 日国会将持有或观看性深度伪造内容定为犯罪。

严重AI 造成的伤害状态: 进行中已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2024年8月28日
地点: 韩国
目标: 韩国各地的初中、高中和大学女学生及教师
严重程度: 严重
核实状态: 经受害方、厂商或官方确认
发起者: 主要是使用 Telegram 聊天室的十几岁男孩和男学生
行为者类型: 犯罪团伙
行业: 教育与科研
已报告损失: 未报告
CVE: 无

发生了什么

影响: 2024 年 1 月至 7 月共报告 297 起深度伪造案件；截至 9 月下旬，深度伪造性犯罪案件超过 800 起

谁发起了攻击

行为者: 主要是使用 Telegram 聊天室的十几岁男孩和男学生

归因: 韩国警察厅（KNPA）

动机: 羞辱女同学和女教师；群内分享

如何发生

攻击途径: 对取自 Instagram 的自拍照使用 AI 深度伪造工具；图像在按学校或大学组织的 Telegram 聊天室中传播

根本原因: 深度伪造工具易得，Telegram 与警方的合作有限，且处罚力度薄弱

时间线

2024年8月27日总统尹锡悦下令有关部门调查深度伪造性犯罪
2024年8月28日KNPA 宣布开展为期七个月的专项严打；数据显示 178 名嫌疑人中有 131 人为未成年人
2024年9月10日AFP 报道严打行动中有 7 人被捕，其中 6 人为青少年
2024年9月26日国民议会通过法案，将持有和观看性深度伪造内容定为犯罪

应对

KNPA 借助检测软件开展为期七个月的严打；国民议会将购买、保存或观看性深度伪造内容定为犯罪（最高 3 年），并将制作此类内容的最高刑期提高到 7 年

当前状态: 进行中

来源（在新标签页打开）

Asia News Network (Korea Herald) asianews.network
Gulf News (AFP) gulfnews.com
TimesLIVE (Reuters) timeslive.co.za
Korea JoongAng Daily koreajoongangdaily.com
The Korea Times koreatimes.co.kr

引用此案例

韩国校园深度伪造危机：Telegram 聊天室针对学生，总统尹锡悦下令严打. AI Threat Watch, 案例 south-korea-telegram-school-deepfake-crisis, 2024年8月28日. https://aithreat.io/zh/cases/south-korea-telegram-school-deepfake-crisis/

永久链接: https://aithreat.io/zh/cases/south-korea-telegram-school-deepfake-crisis/