Досье carmel-ny-principal-deepfake-tiktokЗлоупотребления дипфейками17 февр. 2023США

Старшеклассники опубликовали в TikTok дипфейки с ИИ, в которых директор школы из Кармела (штат Нью-Йорк) произносит расистские угрозы

Ученики Carmel High School разместили в TikTok видео, изменённые с помощью ИИ, на которых якобы директор средней школы и школьный офицер-куратор из управления шерифа делают расистские, насильственные заявления о чернокожих учениках. В округе назвали ролики поддельными видео, созданными с помощью искусственного интеллекта, и наказали учеников в соответствии с кодексом поведения.

СредняяАтака с помощью ИИСтатус: УстранёнПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 17 февр. 2023
Локация: США
Цель: Директор George Fischer Middle School и другие сотрудники школьного округа Carmel Central School District
Критичность: Средняя
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: Ученики Carmel High School (несовершеннолетние, имена не названы)
Тип субъекта: Неизвестно
Сектор: Образование и наука
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Расистские угрозы, приписанные директору и сотруднику полиции, распространились среди учеников и родителей; родители раскритиковали округ за медлительность в информировании о безопасности учеников.

Кто стоит за инцидентом

Субъект: Ученики Carmel High School (несовершеннолетние, имена не названы)

Атрибуция: В округе заявили, что ролики создали и опубликовали старшеклассники; по данным VICE, к этому были причастны три ученика.

Мотив: Неизвестен; по сообщениям, розыгрыш или травля

Как это произошло

Вектор атаки: Реальные записи утренних объявлений директора, заново озвученные звуком, имитированным с помощью ИИ, и опубликованные в TikTok

Первопричина: Лёгкий доступ к инструментам клонирования голоса и отсутствие правовой нормы, охватывающей дипфейк-имитацию сотрудников школы

Хронология

12 февр. 2023Должностные лица школы впервые узнают о видео
15 февр. 2023Совет по образованию заявляет, что ролики были поддельными видео, созданными с помощью искусственного интеллекта
17 февр. 2023WABC сообщает, что учеников наказали, в том числе отстранением от занятий
8 мар. 2023VICE сообщает о критике со стороны родителей и о том, что никому не предъявлено обвинений в преступлении

Реагирование

Совет по образованию осудил видео; учеников наказали, в том числе отстранением от занятий. О возбуждении уголовных дел не сообщалось.

Текущий статус: Устранён

Источники (открываются в новой вкладке)

VICE vice.com
ABC7 New York abc7ny.com

Цитировать это досье

Старшеклассники опубликовали в TikTok дипфейки с ИИ, в которых директор школы из Кармела (штат Нью-Йорк) произносит расистские угрозы. AI Threat Watch, досье carmel-ny-principal-deepfake-tiktok, 17 февр. 2023. https://aithreat.io/ru/cases/carmel-ny-principal-deepfake-tiktok/

Постоянная ссылка: https://aithreat.io/ru/cases/carmel-ny-principal-deepfake-tiktok/