Досье south-korea-telegram-school-deepfake-crisisЗлоупотребления дипфейками28 авг. 2024Южная Корея

Кризис со школьными дипфейками в Южной Корее: в Telegram-чатах травят учениц; президент Юн Сок Ёль приказал ужесточить меры

В августе 2024 года выяснилось, что в Telegram-чатах, связанных со школами и университетами, распространяют сексуальные дипфейки учениц и студенток, созданные с помощью ИИ; в одном из них, насчитывавшем около 1200 участников, жертвами стали более 30 студенток Inha University. По данным полиции, 73,6% подозреваемых, установленных в начале 2024 года, были несовершеннолетними. Президент Юн Сок Ёль приказал начать решительные действия, полиция запустила семимесячную специальную операцию, а 26 сентября парламент объявил преступлением хранение и просмотр сексуальных дипфейков.

КритическаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 28 авг. 2024
Локация: Южная Корея
Цель: Ученицы средних и старших школ, студентки университетов и учительницы по всей Южной Корее
Критичность: Критическая
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: В основном подростки и студенты мужского пола, использовавшие Telegram-чаты
Тип субъекта: Криминальный
Сектор: Образование и наука
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: С января по июль 2024 года зарегистрировано 297 случаев с дипфейками; к концу сентября — более 800 дел о сексуальных преступлениях с использованием дипфейков

Кто стоит за инцидентом

Субъект: В основном подростки и студенты мужского пола, использовавшие Telegram-чаты

Атрибуция: Национальное полицейское агентство Кореи (KNPA)

Мотив: Унижение одноклассниц и учительниц; обмен материалами в группах

Как это произошло

Вектор атаки: Инструменты для создания ИИ-дипфейков, применявшиеся к селфи из Instagram; изображения распространялись в Telegram-чатах, организованных по принципу школы или университета

Первопричина: Простые в использовании инструменты для дипфейков, ограниченное сотрудничество Telegram с полицией и мягкие наказания

Хронология

27 авг. 2024Президент Юн Сок Ёль поручает властям расследовать сексуальные преступления с использованием дипфейков
28 авг. 2024KNPA объявляет о семимесячной специальной операции; данные показывают, что 131 из 178 подозреваемых были несовершеннолетними
10 сен. 2024AFP сообщает о семи арестах в ходе операции, шесть из арестованных — подростки
26 сен. 2024Национальная ассамблея принимает законопроект об уголовной ответственности за хранение и просмотр сексуальных дипфейков

Реагирование

Семимесячная операция KNPA с применением ПО для обнаружения; Национальная ассамблея ввела уголовную ответственность за покупку, хранение и просмотр сексуальных дипфейков (до 3 лет) и повысила максимальное наказание за их создание до 7 лет

Текущий статус: Продолжается

Источники (открываются в новой вкладке)

Asia News Network (Korea Herald) asianews.network
Gulf News (AFP) gulfnews.com
TimesLIVE (Reuters) timeslive.co.za
Korea JoongAng Daily koreajoongangdaily.com
The Korea Times koreatimes.co.kr

Цитировать это досье

Кризис со школьными дипфейками в Южной Корее: в Telegram-чатах травят учениц; президент Юн Сок Ёль приказал ужесточить меры. AI Threat Watch, досье south-korea-telegram-school-deepfake-crisis, 28 авг. 2024. https://aithreat.io/ru/cases/south-korea-telegram-school-deepfake-crisis/

Постоянная ссылка: https://aithreat.io/ru/cases/south-korea-telegram-school-deepfake-crisis/