AI Threat Watch

Инциденты с ИИ в образовании и среди молодёжи

Подтверждённые случаи из разных стран, в которых ИИ причинил вред школьникам, детям, подросткам, а также людям и учреждениям, которые их обучают: статистика, разборы случаев, ответные меры школ и властей, а также меры профилактики и законы, введённые правительствами, регуляторами и органами образования.

Защита детей: на этом сайте не называются ни ребёнок-жертва, ни ребёнок-нарушитель. Имя молодого человека указывается, только если его семья сама обнародовала его в суде или в ведущих СМИ.

95Досье
93С участием молодых людей
46Произошли в школе или университете
30Страны
71%Оценены как критические или высокие

Случаи по годам и месту, где они произошли

ШколаУниверситетВ интернетеДома
010203040Школа: 8Университет: 2В интернете: 4142023Школа: 12Университет: 1В интернете: 5Дома: 2202024Школа: 10Университет: 4В интернете: 13Дома: 7342025Школа: 7Университет: 2В интернете: 14Дома: 4272026

Каждый случай учитывается один раз, по году первого сообщения о нём. Место происшествия указывается отдельно от того, кто был вовлечён: подросток, пострадавший от чат-бота дома, учитывается как молодой человек, а не как школьный инцидент.

Типы инцидентов

Злоупотребления дипфейками43
Вред от чат-ботов35
Сбой ИИ-инструмента6
Списывание на экзаменах с ИИ5
Вредоносное ПО с участием ИИ2
Утечка модели и данных2
Мошенничество с дипфейками1
Промпт-инъекция1

Где это произошло

Школа37
Университет9
В интернете36
Дома13

Возраст вовлечённых молодых людей

Дети (до 13 лет)4
Подростки (13–17 лет)73
Молодые взрослые (18–24 года)14
Возраст не указан2

География

СтранаДосье
США42
Южная Корея6
Австралия5
Великобритания5
Канада3
Япония3
Индия3
Аргентина2
Бразилия2
Испания2
Италия2
Мексика1

Страны с наибольшим числом досье. Показатели отражают, где об инцидентах сообщают и где их изучают, поэтому они занижают данные по странам с меньшим освещением в СМИ на языках, которые мы отслеживаем.

Разборы случаев

Избранные случаи с описанием произошедшего и ответных мер школ и властей, как они зафиксированы в каждом досье.

Злоупотребления дипфейкамиЮжная Корея

Кризис со школьными дипфейками в Южной Корее: в Telegram-чатах травят учениц; президент Юн Сок Ёль приказал ужесточить меры

Что произошло
В августе 2024 года выяснилось, что в Telegram-чатах, связанных со школами и университетами, распространяют сексуальные дипфейки учениц и студенток, созданные с помощью ИИ; в одном из них, насчитывавшем около 1200 участников, жертвами стали более 30 студенток Inha University. По данным полиции, 73,6% подозреваемых, установленных в начале 2024 года, были несовершеннолетними. Президент Юн Сок Ёль приказал начать решительные действия, полиция запустила семимесячную специальную операцию, а 26 сентября парламент объявил преступлением хранение и просмотр сексуальных дипфейков.
Ответные меры школ и властей
Семимесячная операция KNPA с применением ПО для обнаружения; Национальная ассамблея ввела уголовную ответственность за покупку, хранение и просмотр сексуальных дипфейков (до 3 лет) и повысила максимальное наказание за их создание до 7 лет
Статус
Продолжается

Злоупотребления дипфейкамиИспания

ИИ-приложение, «раздевающее» людей на фото, использовали для создания фейковых обнажённых изображений более 20 школьниц в Альмендралехо; 15 несовершеннолетних позже осуждены

Что произошло
Мальчики 12–14 лет брали фотографии девочек из социальных сетей, с помощью ИИ-приложения накладывали их лица на обнажённые тела и распространяли изображения в группах WhatsApp и Telegram, что привело как минимум к 22 заявлениям в полицию. В июле 2024 года суд по делам несовершеннолетних в Бадахосе признал виновными 15 подростков по 20 эпизодам создания материалов с сексуальным насилием над детьми и 20 эпизодам преступлений против моральной целостности, назначив каждому один год условного наказания.
Ответные меры школ и властей
Расследование провели Национальная полиция и Центральное управление по борьбе с киберпреступностью, дело передали прокурору по делам несовершеннолетних, а испанское агентство по защите данных начало собственную проверку; 15 мальчиков получили по одному году условного наказания и обязательные занятия по гендерному равенству и ответственному использованию технологий
Статус
Устранён

Злоупотребления дипфейкамиСША

Спортивный директор подставил директора Pikesville High, выдав за его речь сгенерированную ИИ расистскую и антисемитскую аудиозапись

Что произошло
В январе 2024 года в социальных сетях распространилась аудиозапись, на которой директор Pikesville High Eric Eiswert якобы делает расистские и антисемитские заявления. Полиция и аналитик, привлечённый по контракту с ФБР, установили, что запись сгенерирована ИИ и затем смонтирована вручную. Бывшего спортивного директора школы Dazhon Darien арестовали в апреле 2024 года, а в апреле 2025 года он заключил Alford plea по обвинению в нарушении работы школы и получил четыре месяца тюрьмы.
Ответные меры школ и властей
Арест 25 апреля 2024 года по обвинениям, включая преследование, кражу, месть свидетелю и нарушение работы школы; Alford plea в апреле 2025 года с прекращением остальных обвинений; Eiswert подал иск к школьному округу и Darien в январе 2025 года.
Статус
Устранён

Сбой ИИ-инструментаСША

ИИ-система обнаружения оружия Omnilert приняла пачку чипсов школьника в округе Балтимор за оружие; полиция надела на него наручники

Что произошло
ИИ-система камер видеонаблюдения Omnilert сочла возможным огнестрельным оружием пустую пачку Doritos, которую держал в руках школьник после футбольной тренировки, и вооружённые полицейские обыскали его и надели наручники. Служба безопасности школьного округа уже отменила тревогу, но директор школы, не зная об отмене, сообщил о ней школьному офицеру полиции, а тот вызвал полицию.
Ответные меры школ и властей
Omnilert выразила сожаление, но заявила, что процесс сработал как задумано; члены совета округа потребовали проверки системы; суперинтендант заявил, что проверки входят в регулярную практику
Статус
Устранён

Вред от чат-ботовЛиван

Ливанская семья подала в суд на OpenAI, утверждая, что ChatGPT способствовал самоубийству их 15-летнего сына

Что произошло
Родители Матиаса Хабиба, умершего в апреле 2026 года в возрасте 15 лет, подали в Сан-Франциско иск о неправомерной смерти против OpenAI и Сэма Альтмана. Они утверждают, что ChatGPT подталкивал его к нигилизму и не отреагировал, когда он спросил о самоубийстве.
Ответные меры школ и властей
Иск подан в Высший суд Калифорнии в округе Сан-Франциско организациями Social Media Victims Law Center и Tech Justice Law Project в рамках скоординированного производства по делам о ChatGPT (JCCP). На момент публикации материалов OpenAI публично не комментировала иск.
Статус
Продолжается

Списывание на экзаменах с ИИGH

WAEC приостановил выдачу результатов WASSCE для кандидатов из 235 школ Ганы из-за ответов, сгенерированных ИИ

Что произошло
Западноафриканский экзаменационный совет (WAEC) приостановил выдачу результатов по отдельным предметам для кандидатов из 235 школ Ганы из-за сговора и использования ответов, сгенерированных ИИ, на экзамене WASSCE 2023 года. В WAEC заявили, что некоторые кандидаты переписали в экзаменационные тетради сообщения чат-бота об ошибке, например «Я не знаком с термином, который вы использовали».
Ответные меры школ и властей
Результаты приостановлены до окончания расследования; в WAEC заявили, что нельзя исключить соучастие школьного персонала и родителей
Статус
Расследуется

Утечка модели и данныхСША

AP и Seattle Times получили около 3 500 нередактированных файлов учащихся, помеченных ИИ-мониторингом Gaggle в Ванкувере, штат Вашингтон

Что произошло
В ответ на запрос о предоставлении документов The Seattle Times и AP получили ссылки почти на 3 500 нередактированных скриншотов учебных работ школьников, помеченных ИИ-системой слежения Gaggle. Тексты касались суицида, депрессии, насилия и сексуальности, а открыть их мог любой, у кого есть ссылка, без пароля. Как минимум шестерых учеников, писавших о том, что они геи или трансгендеры, потенциально раскрыли перед школьным руководством.
Ответные меры школ и властей
Округ принёс извинения; Gaggle изменила систему: теперь через 72 часа для просмотра скриншотов требуется вход в систему
Статус
Локализован

Ответные меры школ и властей

Ответные меры, зафиксированные в каждом из досье (всего: 46) по случаям, произошедшим в школе или университете, на основании источников, указанных в досье.

СлучайОтветные меры школ и властей
В Кочи арестован студент колледжа за сексуализированные изображения преподавателей, обработанные с помощью ИИ и распространённые в группах Telegram Индия, 2026Отчисление из колледжа; арест и заключение под стражу по BNS, статьям 67 и 67A IT Act и Kerala Police Act; создана специальная следственная группа с участием киберэкспертов.
Национальный экзаменационный совет Танзании (NECTA) аннулировал результаты 58 выпускников Form Six, которые на экзаменах использовали телефоны для доступа к ChatGPT TZ, 2026Результаты аннулированы; в NECTA заявили, что инструменты ИИ не могут дать экзаменуемым преимущество
Учителя в Новой Зеландии не могут работать после того, как ученики сделали ИИ-дипфейки порнографического содержания и фейки для TikTok с их участием Новая Зеландия, 2026О видео сообщено в TikTok и Netsafe; контент подлежит удалению в соответствии с законом о вредоносных цифровых коммуникациях (Harmful Digital Communications Act).
Школы Гувахати отстранили учеников из-за ИИ-дипфейков с ученицами и учительницами Индия, 2026Дело передано в школьный Комитет по мониторингу жестокого обращения с детьми (Child Abuse Monitoring Committee); ученики отстранены; проведены встречи с родителями.
В Луизиане школьнику предъявлено обвинение в терроризировании: сгенерированное ИИ фото с оружием привело к режиму укрытия в Southside High США, 2026Ученику предъявлено обвинение по La. R.S. 14:40.1 (терроризирование); глава полиции заявил о нулевой терпимости к подобным угрозам.
Семьи жертв стрельбы в FSU утверждают, что ChatGPT помогал стрелку из кампуса в 2025 году США, 2026В OpenAI заявили, что ChatGPT давал фактические ответы на основе информации, широко доступной в интернете, и что компания сотрудничала с правоохранительными органами. Остаётся неясным, насколько ответы повлияли на нападение.
Пострадавшие при стрельбе в Тамблер-Ридж подали в суд на OpenAI из-за того, что о помеченном аккаунте ChatGPT не сообщили полиции Канада, 2026Сэм Альтман публично извинился за то, что не оповестил полицию о заблокированном аккаунте. В OpenAI заявляют, что сообщают о непосредственных и достоверных угрозах и усилили защитные механизмы.
Школьники из Ираклиона с помощью ИИ превратили фотографии учительниц и одноклассниц в порнографические изображения GR, 2026Администрация школы отреагировала на жалобу, а в работе над случаем помогали детские психологи; о действиях полиции не сообщалось.
PSNI расследует дело о сгенерированных ИИ откровенных изображениях учеников, которые распространялись в Royal School Armagh Великобритания, 2026Школа передала дело в компетентные органы; PSNI ведёт расследование совместно со школой и семьями; правительство Великобритании внесло законодательную инициативу об уголовной ответственности за создание сексуальных дипфейков без согласия
Школьник из Инчхона обвинён, а затем осуждён к тюремному сроку за сексуальные дипфейки с двумя учителями и одноклассниками Южная Корея, 2025Обвинения предъявлены по специальному закону о сексуальных преступлениях; приговор вынесен 16 сентября 2026 года, подсудимый взят под стражу; назначены программа лечения и пятилетний запрет на работу, связанную с молодёжью; управление образования Инчхона пообещало учителям юридическую и психологическую поддержку.
В Луизиане мальчикам предъявили обвинения по новому закону об ИИ из-за обнажённых изображений 8 девочек; одну из пострадавших исключили из школы США, 2025Шериф предъявил по 10 обвинений одному мальчику (задержан и зарегистрирован 15 сентября 2025 года) и второму в декабре; школьный совет восстановил девочку в школе с испытательным сроком; в школьном округе заявили, что начинают разрабатывать политики в отношении ИИ
Десятки студентов Yonsei University признались, что использовали ChatGPT на онлайн-экзамене по курсу о ChatGPT Южная Корея, 2025Yonsei планировал провести экстренные публичные слушания через свой Institute for AI and Social Innovation
ИИ-система обнаружения оружия Omnilert приняла пачку чипсов школьника в округе Балтимор за оружие; полиция надела на него наручники США, 2025Omnilert выразила сожаление, но заявила, что процесс сработал как задумано; члены совета округа потребовали проверки системы; суперинтендант заявил, что проверки входят в регулярную практику
Школьники с помощью ИИ и фотографии одноклассника сфабриковали угрозу применения оружия в старшей школе в Мичигане США, 2025Усиление полицейского присутствия 20 октября; ученики отстранены от занятий; дело передано шерифу округа для решения вопроса об обвинении.
Австралийский католический университет зарегистрировал около 6000 случаев нарушений академической честности, в основном связанных с ИИ, нередко опираясь на детектор Turnitin Австралия, 2025В марте 2025 года ACU отключил индикатор ИИ в Turnitin, выразил сожаление и изменил процедуру рассмотрения нарушений академической честности
Полиция Японии: более половины сексуальных дипфейков с несовершеннолетними создали одноклассники, многие — из школьных фотографий Япония, 2025NPA изучило около 10 популярных приложений для генерации изображений; полиция применяла законы о диффамации и непристойности; префектура Тоттори в августе 2025 года запретила создавать сексуальные поддельные изображения детей
Девять учеников из Лоренса, штат Канзас, подали в суд на школьный округ из-за ИИ-слежки Gaggle, которая помечала и удаляла их работы США, 2025Школьный округ отказался комментировать судебный процесс; в 2024 году он заявлял, что продолжит использовать Gaggle по трёхлетнему контракту, который истекает в июле 2026 года
Студента-юриста из HKU обвиняют в создании более 700 порнографических ИИ-изображений 20–30 женщин, включая одногруппниц и учительниц Гонконг, 2025HKU направил предупредительное письмо и потребовал принести извинения, затем заявил, что дело остаётся открытым; Управление уполномоченного по защите личных данных начало уголовное расследование; правительство заявило, что при необходимости пересмотрит закон.
Nikkei обнаружила скрытые промпты, требующие от ИИ-рецензентов хвалить статьи, в 17 препринтах из 14 университетов Япония, 2025KAIST отмежевался от такой практики; политики издателей в отношении рецензирования с помощью ИИ расходятся
Полиция Вьетнама возбудила уголовные дела после того, как участники национального экзамена пользовались ChatGPT, Gemini и StudyX Вьетнам, 2025Уголовные дела по статьям Уголовного кодекса о государственной тайне; Министерство общественной безопасности распорядилось срочно провести расследование
Частная школа в Аделаиде отстранила ученика из-за дипфейка с изображением учителя; о случае сообщили в полицию Австралия, 2025Ученик отстранён на неопределённый срок; полиция Южной Австралии уведомлена. Случай произошёл спустя несколько дней после того, как в Южной Австралии приняли закон, вводящий уголовную ответственность за откровенные или демонстрирующие насилие дипфейки.
AP и Seattle Times получили около 3 500 нередактированных файлов учащихся, помеченных ИИ-мониторингом Gaggle в Ванкувере, штат Вашингтон США, 2025Округ принёс извинения; Gaggle изменила систему: теперь через 72 часа для просмотра скриншотов требуется вход в систему
ИИ-система обнаружения оружия Omnilert в школе Antioch High School в Нашвилле не заметила пистолет при стрельбе со смертельным исходом США, 2025Округ заявил, что ни одна система не способна поймать всё; раненый ученик в мае 2026 года подал иск к Omnilert и монтажной компании System Integrations; позднее округ установил сканеры Evolv в средних и старших школах
Двое учеников Lancaster Country Day School обвинены в создании изменённых с помощью ИИ сексуальных изображений 59 несовершеннолетних США, 2024Прокурор предъявил обвинения по делам несовершеннолетних и не усмотрел уголовной ответственности школьного персонала по действующему закону об обязательном информировании; новый закон Пенсильвании о материалах с насилием над детьми, созданных с помощью ИИ, вступил в силу 20 декабря 2024 года; оба мальчика получили пробацию, 60 часов общественных работ и запрет на контакты с пострадавшими
FTC принимает меры против Evolv: ИИ-сканеры оружия не обнаружили нож, которым в школе ударили ученика США, 2024Предложенный приказ позволяет клиентам K-12, подписавшим контракты с апреля 2022 по июнь 2023 года, расторгнуть их; денежной компенсации не предусмотрено
Полиция Сингапура расследует дело о дипфейк-обнажёнке с ученицами Singapore Sports School, которую создали их сверстники-мальчики Сингапур, 2024Школа подала заявление в полицию, часть учеников наказала тростью, назначила отстранения от занятий и запреты на участие в спортивных поездках; полиция опросила учеников, изъяла устройства и потребовала удалить изображения
Сеульский суд приговорил выпускника SNU к 10 годам тюрьмы за дипфейки в Telegram с участием не менее 61 женщины Южная Корея, 2024Обвиняемые арестованы и осуждены; в первой инстанции Пак получил 10 лет, Кан — четыре года
В Морадабаде (Индия) возбуждено дело против двух девятиклассников, опубликовавших созданное с помощью ИИ непристойное изображение учительницы Индия, 2024FIR по IT Act; полицейское расследование и меры по удалению изображения.
Профсоюз учителей Южной Кореи: 204 учителя стали жертвами школьных сексуальных дипфейков в скандале вокруг Telegram Южная Корея, 2024Министерство образования создало экстренную рабочую группу по дипфейкам; министерства договорились разработать автоматическое обнаружение сексуального дипфейк-контента; полиция начала расследование в отношении Telegram.
Прокуратура Гватемалы провела обыски в домах учеников из-за созданных с помощью ИИ интимных изображений школьниц GT, 2024Жалоба подана 10 августа 2024 года; проведены обыски и изъяты устройства; SVET подала жалобу по распоряжению вице-президента; Mineduc применило протокол, а школа разделила подозреваемых и сообщила в Национальную гражданскую полицию
Информатор: ИИ-чат-бот «Ed» стоимостью 6 млн долларов, созданный для LAUSD, отправлял данные учеников за рубеж до краха вендора AllHere США, 2024LAUSD отказался от услуг AllHere и заявил, что данные «Ed» остаются в собственности округа и защищены; генеральный инспектор опросил информатора
В Мельбурне исключён ученик, создавший с помощью ИИ откровенные изображения учительницы Salesian College Австралия, 2024Ученик исключён; школа заявляет, что ввела программы по кибербезопасности и уважительным отношениям.
Турецкая полиция арестовала абитуриента, который использовал камеру-пуговицу и ИИ для получения ответов на вступительном экзамене Турция, 2024Аресты; полиция опубликовала видео с демонстрацией устройства с ИИ
Прокуратура Чили начала расследование после того, как шестеро школьников распространили созданные ИИ обнажённые изображения семи одноклассниц Чили, 2024Прокуратура по собственной инициативе начала расследование; школа применила условное зачисление и другие санкции, но не исключила мальчиков; родители обратились в Апелляционный суд с просьбой о мерах защиты
Школьный округ Беверли-Хиллз исключил пятерых восьмиклассников из-за ИИ-изображений обнажённых одноклассников, затронувших 16 человек США, 2024Округ вёл расследование с февраля 2024 года, а его совет исключил пятерых учеников; полиция Беверли-Хиллз начала уголовное расследование, об арестах не сообщалось
Спортивный директор подставил директора Pikesville High, выдав за его речь сгенерированную ИИ расистскую и антисемитскую аудиозапись США, 2024Арест 25 апреля 2024 года по обвинениям, включая преследование, кражу, месть свидетелю и нарушение работы школы; Alford plea в апреле 2025 года с прекращением остальных обвинений; Eiswert подал иск к школьному округу и Darien в январе 2025 года.
WAEC приостановил выдачу результатов WASSCE для кандидатов из 235 школ Ганы из-за ответов, сгенерированных ИИ GH, 2023Результаты приостановлены до окончания расследования; в WAEC заявили, что нельзя исключить соучастие школьного персонала и родителей
В Майами двух школьников 13 и 14 лет обвинили в тяжких преступлениях из-за сгенерированных ИИ обнажённых изображений одноклассников США, 2023Школа отстранила обоих мальчиков от занятий на 10 дней и сообщила в полицию; полиция Майами-Дейд предъявила им обвинения в тяжких преступлениях (felony) третьей степени по закону Флориды 2022 года об изменённых изображениях сексуального характера
Полиция Рио расследует дипфейки с обнажёнными телами около 20 девочек, созданные одноклассниками в школе в Барра-да-Тижука Бразилия, 2023DPCA и 16-й полицейский участок начали расследование и установили личности некоторых учеников; школа назвала произошедшее «прискорбным» и пообещала принять дисциплинарные меры
Ученики Westfield High School предположительно использовали ИИ для создания порнографических изображений одноклассниц США, 2023Директор разослал родителям письмо, школа провела расследование с участием школьного офицера полиции и полиции Westfield и предложила психологическую помощь; публичных дисциплинарных мер и обвинений не последовало
IPN отчислил студента, которого обвинили в обработке фото одногруппниц с помощью ИИ в сексуальный контент; позже он получил тюремный срок Мексика, 2023Отчисление из IPN; арест прокуратурой Мехико; частичное оправдание в декабре 2024 года, которое адвокат потерпевших обжаловал; приговор к пяти годам лишения свободы и штраф в 103 740 песо за хранение материалов с сексуальным насилием над детьми
Прокуратура Эквадора расследует создание с помощью ИИ сексуальных монтажей с 20–24 школьницами частной школы в Кито EC, 2023Прокуратура начала расследование по делу о детской порнографии; Министерство образования сослалось на свой новый протокол по борьбе с цифровым насилием от 28 сентября 2023 года; двое подозреваемых покинули школу
ИИ-приложение, «раздевающее» людей на фото, использовали для создания фейковых обнажённых изображений более 20 школьниц в Альмендралехо; 15 несовершеннолетних позже осуждены Испания, 2023Расследование провели Национальная полиция и Центральное управление по борьбе с киберпреступностью, дело передали прокурору по делам несовершеннолетних, а испанское агентство по защите данных начало собственную проверку; 15 мальчиков получили по одному году условного наказания и обязательные занятия по гендерному равенству и ответственному использованию технологий
Прокуратура Перу расследует дело двух школьников из Лимы, которых обвиняют в продаже сделанных с помощью ИИ обнажённых изображений одноклассниц PE, 2023Семейная прокуратура начала расследование и посетила школу; школа на один день приостановила занятия и перевела подозреваемых на дистанционное обучение; Министерство по делам женщин потребовало наказания
Преподаватель Texas A&M-Commerce спросил ChatGPT, не он ли написал эссе, и задержал оценки у выпускников, попавших под подозрение США, 2023Университет разбирал каждый случай отдельно, снял обвинения с нескольких студентов и приступил к разработке политик по использованию ИИ
Старшеклассники опубликовали в TikTok дипфейки с ИИ, в которых директор школы из Кармела (штат Нью-Йорк) произносит расистские угрозы США, 2023Совет по образованию осудил видео; учеников наказали, в том числе отстранением от занятий. О возбуждении уголовных дел не сообщалось.

Действующие меры профилактики

Меры, которые министерства, регуляторы, экзаменационные органы и международные организации приняли или опубликовали, с описанием того, что делает каждая из них, как указано в документе.

Министерства и правительства

  • UK Department for Education · England · 2025Generative artificial intelligence (AI) in educationВ политике DfE (обновлена в августе 2025 года) говорится, что безопасность должна быть главным приоритетом, что школьники могут использовать GenAI только при наличии мер защиты, таких как надзор, фильтрация и мониторинг, и что персональные данные не следует вводить в инструменты GenAI. В ней предупреждается, что GenAI может сделать кибератаки и письма с выдачей себя за другое лицо более правдоподобными, и даётся ссылка на правила JCQ и Ofqual о нарушениях, связанных с ИИ.
  • UK Department for Education · England · 2026Generative AI: product safety standardsСтандарты для поставщиков образовательных технологий (впервые выпущены в январе 2025 года, расширены 19 января 2026 года) охватывают фильтрацию, мониторинг и информирование ответственного за защиту детей, защиту от взлома ограничений (jailbreaking), конфиденциальность, тестирование и управление. Обновление 2026 года добавляет стандарты в области когнитивного развития, эмоционального и социального развития, психического здоровья и защиты от манипуляций, включая недопущение антропоморфизма и эмоциональной зависимости и выявление признаков дистресса.
  • UK Department for Education · England · 2026Cyber security standards for schools and collegesУстанавливает такие стандарты, как ежегодная оценка киберрисков, обучение сотрудников и учащихся, многофакторная аутентификация для облачных, удалённых и административных учётных записей сотрудников, устранение критических уязвимостей в течение 14 дней и план резервного копирования по схеме 3-2-1. Также требует сообщать о кибератаках внутри организации и таким органам, как страховщики и DfE (последнее обновление — сентябрь 2026 года).
  • UK Council for Internet Safety / DfE · England · 2024Sharing nudes and semi-nudes: advice for education settings working with children and young peopleОбновление марта 2024 года прямо охватывает созданные ИИ и цифровым способом изменённые «псевдоизображения» лиц младше 18 лет и указывает, что закон распространяется на детей, которые их создают. Сотрудникам предписывается обращаться к назначенному ответственному за защиту детей, не просматривать, не копировать и не пересылать изображения, при необходимости обращаться в полицию или социальные службы и пользоваться средствами удаления, такими как IWF/Childline Report Remove.
  • UK Department for Education · England · 2026Keeping children safe in education 2026Обязательное руководство по защите детей для школ и колледжей; версия 2026 года действует с 1 сентября 2026 года. В руководстве DfE по GenAI оно названо основным источником по вопросам онлайн-безопасности, фильтрации и мониторинга и кибербезопасности при использовании ИИ в школах.
  • New York State Education Department · New York State, USA · 2023Determination on biometric identifying technology in schoolsРешение от сентября 2023 года запрещает школам штата Нью-Йорк покупать и использовать технологии распознавания лиц после того, как в докладе штата было установлено, что риски перевешивают выгоды, в том числе из-за более высокой доли ошибочных опознаний среди детей и других групп. Другие биометрические средства оставлены на усмотрение местных органов, которые должны учитывать конфиденциальность, гражданские права, эффективность и мнение родителей.
  • Republic of Korea Ministry of Education (reported by The Korea Herald) · South Korea · 2024Education Ministry response to school deepfake sex crimesВ августе 2024 года министерство создало чрезвычайную рабочую группу для еженедельного отслеживания случаев дипфейков в школах, обработки обращений пострадавших, оказания психологической поддержки и усиления образования в области цифровой этики. Министерство заявило, что старшеклассникам, совершившим такие действия, может грозить исключение — высшая мера взыскания в системе мер по борьбе со школьным насилием.
  • Republic of Korea Ministry of Education (reported by The Korea Times) · South Korea · 2024799 students, 31 teachers victimized by deepfake videos this yearДанные опроса министерства показали, что с начала 2024 года до конца октября было выявлено 833 пострадавших от дипфейков в школах, в том числе 799 учащихся и 31 учитель. Школы передали 417 случаев на расследование и 218 — для удаления видео.
  • Ireland Department of Education and Youth · Ireland · 2025Guidance on Artificial Intelligence in SchoolsНациональное руководство, опубликованное 21 октября 2025 года совместно с Oide, призвано помочь школам планировать безопасное, этичное и надлежащее использование ИИ на основе работы ЮНЕСКО и ЕС. В нём отмечается, что Комиссия по государственным экзаменам (State Examinations Commission) требует указывать ссылки на материалы, созданные ИИ, а также что объявлено о создании рабочей группы по ИИ в образовании, включая оценивание.
  • UAE Ministry of Education (reported by Education Middle East) · United Arab Emirates · 2026Safe and Responsible Use of Artificial Intelligence in Classrooms (manual)Руководство 2026 года запрещает генеративный ИИ для учащихся младше 13 лет или ниже 7-го года обучения, запрещает ИИ на официальных экзаменах и работы с необъявленным использованием ИИ, а также запрещает вводить в инструменты ИИ персональные данные учащихся, учителей или родителей. Оно также запрещает дипфейки и выдачу себя за другое лицо и требует прямого контроля учителя за использованием ИИ в классе.
  • Saudi Ministry of Education and SDAIA (reported by Gulf News) · Saudi Arabia · 2025Guidelines for using generative AI in educationСовместное руководство для учащихся, учителей и родителей, нацеленное на этичное и ответственное использование, при котором учитель остаётся центральной фигурой. В нём говорится, что учащимся младше 13 лет не следует использовать GenAI без прямого надзора, а лицам младше 18 лет необходимо чёткое согласие родителей.
  • Center for Educational Research and Development (CRDP), Lebanon · Lebanon · 2025Lebanon's AI Competency Framework / AI Educational Framework for students and teachersCRDP, разрабатывающий национальную учебную программу Ливана, опубликовал (октябрь 2025 года) рамочный документ по ИИ, первая часть которого — политика в области ИИ для ливанских школ, основанная на рамках ЮНЕСКО 2024 года и Рекомендации ЮНЕСКО по этике ИИ 2021 года. Среди его руководящих принципов — ориентация на человека, конфиденциальность и безопасность данных, инклюзивность и профессиональное развитие учителей.
  • Egypt Ministry of Education and Technical Education (reported by Egyptian Streets) · Egypt · 2025AI curricula in schools from 2025-2026Министр объявил о введении учебных программ по ИИ в отдельных классах начальной, подготовительной и средней школы с 2025/26 учебного года, включая этику и социальные последствия ИИ. Опубликованных министерством правил использования или защиты детей обнаружено не было.

Регуляторы и правоохранительные органы

  • European Union · European Union · 2024Regulation (EU) 2024/1689 (AI Act), Annex III point 3 (education)Относит к системам высокого риска ИИ, используемый для принятия решений о приёме или распределении в образовательные учреждения, для оценки результатов обучения, для определения уровня образования, который получит человек, а также для наблюдения за учащимися и выявления запрещённого поведения во время тестов. Для систем высокого риска предусмотрены такие обязанности, как управление рисками, человеческий надзор и ведение документации.
  • UK Information Commissioner's Office · United Kingdom · 2024Essex school reprimanded after using facial recognition technology for canteen paymentsICO вынес официальное порицание (reprimand) школе Chelmer Valley High School (23 июля 2024 года) за внедрение распознавания лиц без оценки воздействия на защиту данных, без консультации с ответственным за защиту данных, родителями и учениками и с опорой на согласие по принципу отказа (opt-out). ICO подчёркивает, что оценка воздействия на защиту данных (DPIA) необходима до внедрения биометрических систем и что требуется явное согласие по принципу добровольного участия (opt-in).
  • US Cybersecurity and Infrastructure Security Agency (CISA) · United States (K-12) · 2023Protecting Our Future: Partnering to Safeguard K-12 Organizations from Cybersecurity ThreatsВ докладе CISA от января 2023 года школам рекомендуется начинать с наиболее результативных мер: многофакторной аутентификации, устранения известных эксплуатируемых уязвимостей, проверенных резервных копий, отработанного плана реагирования на инциденты и непрерывного обучения. В нём также содержится призыв добиваться от поставщиков продуктов, безопасных по умолчанию, и участвовать в группах обмена информацией, таких как MS-ISAC и K12 SIX.
  • US Federal Bureau of Investigation (IC3) · United States · 2025Senior US Officials Impersonated in Malicious Messaging Campaign (PSA I-051525-PSA)Предупреждает, что преступники используют созданные ИИ голосовые сообщения и тексты, чтобы выдавать себя за высокопоставленных должностных лиц и похищать доступ к учётным записям. Советует подтверждать личность по известному номеру, не переходить по ссылкам до подтверждения, включить двухфакторную аутентификацию, использовать заранее согласованные кодовые слова и подтверждать запросы на платёж по отдельному каналу.
  • US Federal Trade Commission · United States · 2025FTC launches inquiry into AI chatbots acting as companions11 сентября 2025 года FTC обязала семь компаний, включая Alphabet, Character.AI, Meta, OpenAI, Snap и xAI, пояснить, как они проверяют, отслеживают и ограничивают вред от чат-ботов-компаньонов для детей. Запрос касается монетизации вовлечённости, обеспечения возрастных ограничений, раскрытия информации родителям и использования данных переписки.
  • eSafety Commissioner (Australia) · Australia · 2026Toolkit for Schools: Guide to responding to image-based abuse involving AI deepfakesПошаговое руководство (впервые выпущено в середине 2025 года, действующий PDF датирован мартом 2026 года) для руководителей школ по реагированию на обнажённые или сексуальные дипфейки с учащимися или сотрудниками; оно рассчитано на применение вместе с политиками защиты детей. eSafety призывает школы ставить на первое место благополучие пострадавших учащихся и сотрудников, сообщать о возможных преступлениях в полицию, выполнять обязанности по обязательному информированию и обращаться в eSafety для быстрого удаления материалов.
  • eSafety Commissioner (Australia) · Australia · 2025Online safety advisory: AI chatbots and companions - risks to children and young peopleВ рекомендации от 18 февраля 2025 года говорится, что ИИ-компаньоны имитируют личные отношения, допускают нерегулируемое обсуждение секса, самоповреждения и суицида и зачастую не имеют эффективной проверки возраста. Позднее eSafety направила юридические уведомления (октябрь 2025 года) Character.AI, Nomi, Chai и Chub AI и сообщила, что большинство компаньонов не направляли пользователей за помощью в случаях суицида или самоповреждения.

Экзаменационные органы и органы по обеспечению качества

  • Joint Council for Qualifications (JCQ) · UK (GCSE, A level and other general qualifications) · 2025AI Use in Assessments: Your role in protecting the integrity of qualificationsРуководство, действующее с 30 апреля 2025 года, рассматривает злоупотребление ИИ, из-за которого работа перестаёт быть самостоятельной работой учащегося, как нарушение (malpractice) и требует, чтобы политики экзаменационных центров в отношении нарушений охватывали ИИ. Оно рекомендует работу под наблюдением в классе, проверку черновиков, короткие устные собеседования и ограничение ИИ на устройствах центров, указывает, что детекторы нельзя использовать как единственное основание, и что ИИ не может быть единственным проверяющим.
  • Quality Assurance Agency for Higher Education (QAA) · UK higher education · 2023Maintaining quality and standards in the ChatGPT era: advice on generative AI toolsQAA сообщает университетам, что управляемое использование генеративного ИИ предпочтительнее прямых запретов при сохранении академических стандартов. Документ предлагает четырёхэтапный процесс выявления оценочных заданий, которые нужно скорректировать, и призывает к надёжному внутреннему обеспечению качества.
  • Tertiary Education Quality and Standards Agency (TEQSA) · Australia (higher education) · 2025Enacting assessment reform in a time of artificial intelligenceНе носящий предписывающего характера ресурс TEQSA (выпущен в сентябре 2025 года), который помогает университетам управлять рисками генеративного ИИ для подтверждения результатов обучения и одновременно обучать этичному использованию. В нём описаны основные стратегические пути, по которым учебные заведения перестраивают систему оценивания.

Международные организации

  • UNESCO · Global · 2023Guidance for generative AI in education and researchПервое глобальное руководство ЮНЕСКО по генеративному ИИ в образовании (опубликовано в сентябре 2023 года, страница обновлена в январе 2026 года) предлагает правительствам регулировать инструменты GenAI и выстраивать согласованные политические рамки для образования и науки. В нём предлагается установить возрастной предел для самостоятельного общения с платформами GenAI, обязательную защиту персональных данных и процедуру этической проверки инструментов, поскольку большинство школ пока не могут оценивать их самостоятельно.
  • UNESCO · Global · 2024AI competency framework for studentsОпределяет 12 компетенций в четырёх областях (ориентация на человека, этика ИИ, методы и применение ИИ, проектирование систем ИИ) на трёх уровнях: понимание, применение, создание. Документ призван помочь учебным программам готовить учащихся к безопасному взаимодействию с ИИ и к критической оценке решений на основе ИИ.
  • UNESCO · Global · 2024AI competency framework for teachersОпределяет 15 компетенций в пяти областях, включая этику ИИ, педагогику ИИ и ИИ для профессионального обучения, на трёх уровнях: освоение, углубление, создание. Основан на защите прав учителей и укреплении человеческой субъектности и содержит стратегии применения этических принципов на практике.
  • UNICEF · Global · 2025Guidance on AI and children, version 3.0Обновление политического руководства ЮНИСЕФ от декабря 2025 года устанавливает десять требований к ИИ, ориентированному на детей, в том числе в отношении регуляторного надзора, безопасности детей, защиты данных и частной жизни детей, недискриминации, прозрачности и подотчётности, а также развития у детей навыков работы с ИИ. К нему прилагается контрольный перечень для правительств и компаний.
  • UNICEF · Global · 2026'Deepfake abuse is abuse' (statement)В заявлении ЮНИСЕФ от 4 февраля 2026 года приводятся данные исследования ЮНИСЕФ, ECPAT и ИНТЕРПОЛА, согласно которым как минимум у 1,2 млн детей в 11 странах за прошедший год изображения были превращены в сексуальные дипфейки. ЮНИСЕФ призывает правительства включить созданный ИИ контент в законы о материалах с сексуальным насилием над детьми и установить уголовную ответственность за его создание, приобретение, хранение и распространение, а компании, разрабатывающие ИИ, — закладывать безопасность на этапе проектирования и не допускать распространения такого контента.
  • OECD · OECD members · 2026OECD Digital Education Outlook 2026: Exploring effective uses of generative AI in educationПриходит к выводу, что GenAI общего назначения повышает результативность выполнения заданий, но не даёт реального прироста в обучении, если не опирается на педагогику, и что преимущество учащихся на экзаменах может исчезнуть или обратиться в свою противоположность, когда доступ к ИИ закрыт. Рекомендует специально созданные образовательные инструменты, равнодоступную инфраструктуру и непрерывное профессиональное обучение.
  • Council of Europe · 46 Council of Europe member states · 2026Committee of Ministers recommendation on AI literacyРекомендация государствам-членам: помогать школьникам, студентам, учителям, родителям и гражданам понимать ИИ, ответственно им пользоваться и распознавать ситуации, в которых он угрожает правам человека, демократии и верховенству права. Документ реализует статью 20 Рамочной конвенции Совета Европы об искусственном интеллекте.
  • European Commission · European Union · 2026Ethical guidelines on the use of AI and data in teaching and learning for educators (updated)Руководство, впервые выпущенное в 2022 году и обновлённое в 2026 году через European Digital Education Hub, разъясняет для учителей контекст GDPR и Закона об ИИ. Оно содержит наводящие вопросы и примеры для оценки инструментов ИИ до их использования на уроках.

Применимые законы

Действующие законы, устанавливающие уголовную ответственность за сексуальные дипфейки с участием несовершеннолетних или регулирующие использование ИИ в образовании либо молодыми людьми.

СтранаЗаконЧто он делает
United StatesTAKE IT DOWN Act (2025)Устанавливает уголовную ответственность за публикацию интимных изображений без согласия, включая дипфейки на основе ИИ (до трёх лет лишения свободы, если жертва — несовершеннолетний), и с мая 2026 года обязывает платформы удалять сообщённые материалы в течение 48 часов.
South KoreaAmendment to the Act on Special Cases Concerning the Punishment of Sexual Crimes (deepfake possession and viewing) (2024)Предусматривает наказание до трёх лет лишения свободы за покупку, сохранение, хранение или просмотр сексуально откровенных дипфейков и повышает максимальное наказание за их создание до семи лет.
United Kingdom (England and Wales)Data (Use and Access) Act 2025, section 138 (Sexual Offences Act 2003 ss.66E-66H) (2025)Вводит составы преступлений: создание или заказ создания сексуальных дипфейков совершеннолетних без их согласия; действует с 6 февраля 2026 года (изображения лиц моложе 18 лет уже охватываются законом о непристойных псевдофотографиях).
United KingdomCrime and Policing Act 2026 (child sexual abuse image-generators) (2026)Устанавливает ответственность за создание, адаптацию, хранение или предоставление инструментов, таких как модели ИИ, созданные для генерации изображений сексуального насилия над детьми, — до пяти лет лишения свободы; проверенное положение для Северной Ирландии (s.73) на тот момент ещё не вступило в силу.
United Kingdom (England)Indecent images of children law as applied in UKCIS guidance (pseudo-photographs) (2024)Официальное руководство подтверждает, что создание, хранение или распространение непристойных изображений лиц моложе 18 лет, созданных или изменённых ИИ, незаконно, в том числе когда их создатель — ребёнок.
AustraliaCriminal Code Amendment (Deepfake Sexual Material) Act 2024 (No. 78, 2024) (2024)Вводит самостоятельный федеральный состав преступления: распространение сексуальных материалов с участием совершеннолетнего без его согласия, прямо включая материалы, созданные или изменённые с помощью таких технологий, как дипфейки.
FranceCode pénal article 226-8-1 (inserted by Law No. 2024-449 'SREN' of 21 May 2024) (2024)Наказывает распространение без согласия сексуального изображения или голоса человека, созданных или изменённых ИИ, лишением свободы до двух лет и штрафом до 60 000 евро, а при распространении в интернете — до трёх лет и 75 000 евро, даже если материал помечен как поддельный.
ItalyLaw No. 132/2025 on artificial intelligence (Penal Code art. 612-quater) (2025)Делает преступлением, наказуемым лишением свободы на срок от одного до пяти лет, распространение без согласия вредных изображений, видео или голоса, созданных или изменённых ИИ, и требует согласия родителей на использование ИИ лицами моложе 14 лет.
European UnionAI Act, Regulation (EU) 2024/1689, Article 5(1)(f) (2024)Запрещает системы ИИ, определяющие эмоции людей в образовательных учреждениях и на рабочих местах, за исключением медицинских соображений или соображений безопасности.
United States (California)SB 243 (companion chatbots) (2025)С 1 января 2026 года обязывает операторов чат-ботов-компаньонов сообщать, что они ИИ, применять протоколы при суицидальных мыслях и самоповреждении, напоминать несовершеннолетним о перерывах и блокировать для несовершеннолетних сексуально откровенные изображения от чат-бота.

Все досье: 95

Как отбираются случаи: проверенное досье попадает сюда, если пострадал или был вовлечён человек моложе 25 лет либо если случай произошёл в школе, университете или образовательной службе. В каждом случае отдельно фиксируется, был ли вовлечён молодой человек, его возрастная группа и место происшествия. Данные: education.json (CC BY 4.0)

Язык: EnglishFrançaisEspañolالعربية中文Русский