AI Threat Watch

Досье almendralejo-school-deepfake-nudesЗлоупотребления дипфейкамиИспания

ИИ-приложение, «раздевающее» людей на фото, использовали для создания фейковых обнажённых изображений более 20 школьниц в Альмендралехо; 15 несовершеннолетних позже осуждены

Мальчики 12–14 лет брали фотографии девочек из социальных сетей, с помощью ИИ-приложения накладывали их лица на обнажённые тела и распространяли изображения в группах WhatsApp и Telegram, что привело как минимум к 22 заявлениям в полицию. В июле 2024 года суд по делам несовершеннолетних в Бадахосе признал виновными 15 подростков по 20 эпизодам создания материалов с сексуальным насилием над детьми и 20 эпизодам преступлений против моральной целостности, назначив каждому один год условного наказания.

КритическаяВред, причинённый ИИСтатус: УстранёнПроверенное досье

Открыть на интерактивной картеЦитировать это досье

Дата сообщения
19 сен. 2023
Локация
Испания
Цель
Более 20 школьниц в возрасте от 11 до 17 лет в Альмендралехо (Эстремадура)
Критичность
Критическая
Проверка
Подтверждено жертвой, вендором или ведомством
Инициатор
15 местных мальчиков (несовершеннолетние, имена не называются)
Тип субъекта
Криминальный
Сектор
Образование и наука
Заявленные убытки
Не заявлены
CVE
Нет

Что произошло

Мальчики 12–14 лет брали фотографии девочек из социальных сетей, с помощью ИИ-приложения накладывали их лица на обнажённые тела и распространяли изображения в группах WhatsApp и Telegram, что привело как минимум к 22 заявлениям в полицию. В июле 2024 года суд по делам несовершеннолетних в Бадахосе признал виновными 15 подростков по 20 эпизодам создания материалов с сексуальным насилием над детьми и 20 эпизодам преступлений против моральной целостности, назначив каждому один год условного наказания.

Последствия: Жертвы сообщали о паника-атаках, буллинге и шантаже, а некоторые отказывались ходить в школу

Кто стоит за инцидентом

Субъект: 15 местных мальчиков (несовершеннолетние, имена не называются)

Атрибуция: Установлены Национальной полицией Испании; осуждены судом по делам несовершеннолетних в Бадахосе

Мотив: Унижение и травля ровесниц; жертвы также сообщали о шантаже

Как это произошло

Вектор атаки: ИИ-приложение nudify (по данным Euronews, ClothOff), применённое к фотографиям девочек из социальных сетей; изображения распространялись через WhatsApp и Telegram

Первопричина: Свободно доступные nudify-приложения без проверки возраста и согласия; лёгкий сбор фотографий несовершеннолетних из социальных сетей

Хронология

  1. Матери пострадавших обращаются к общественности; Национальная полиция сообщает, что установила нескольких несовершеннолетних
  2. Подано не менее 22 заявлений; подозреваемым, по сообщениям, от 12 до 14 лет; агентство по защите данных начинает собственную проверку
  3. Суд по делам несовершеннолетних в Бадахосе объявляет об осуждении 15 подростков, каждому назначен один год условного наказания

Реагирование

Расследование провели Национальная полиция и Центральное управление по борьбе с киберпреступностью, дело передали прокурору по делам несовершеннолетних, а испанское агентство по защите данных начало собственную проверку; 15 мальчиков получили по одному году условного наказания и обязательные занятия по гендерному равенству и ответственному использованию технологий

Текущий статус: Устранён

Источники (открываются в новой вкладке)

Цитировать это досье

ИИ-приложение, «раздевающее» людей на фото, использовали для создания фейковых обнажённых изображений более 20 школьниц в Альмендралехо; 15 несовершеннолетних позже осуждены. AI Threat Watch, досье almendralejo-school-deepfake-nudes, 19 сен. 2023. https://aithreat.io/ru/cases/almendralejo-school-deepfake-nudes/

Постоянная ссылка: https://aithreat.io/ru/cases/almendralejo-school-deepfake-nudes/

Похожие случаи

Тот же тип инцидента, сначала новые.

Это досье на других языках: EnglishFrançaisEspañolالعربية中文Русский