International AI Safety ReportУправление рисками§3.4

Защиту открытых моделей легко снять

Первые признакиПодходящих досье: 5

Предупреждение

Модели с опубликованными весами можно изменить так, чтобы убрать их защитные механизмы, их использование трудно отслеживать, а выпуск нельзя отозвать.

Пересказ источника. Источник: International AI Safety Report 2026, 3 февр. 2026, раздел 3.4, стр. 132. Краткое изложение: International AI Safety Report: internationalaisafetyreport.org.

Что показывает реестр

Инструменты атак из реестра работают на открытых моделях: вариант WormGPT на базе Mixtral, даркнет-платформа, заявляющая о моделях на собственных серверах, стилер APT28, обращающийся к Qwen, прототип программы-вымогателя на локальной открытой модели и перехваченный сервер Ollama, служивший «мозгом» хакерского инструмента. Ни один не показывает, что веса изменяли, чтобы снять защиту; вариант WormGPT опирался на свои инструкции.

Частичные или первые признаки: случаи подходят под часть предупреждения или опираются на обвинения. Первый реальный случай в реестре: 7 апр. 2025 · Уже было в реестре на момент публикации исследования.

Подходящие досье по кварталам

Наблюдается в реальных инцидентахЛабораторное испытание или демонстрация исследователей

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Первые признаки	5	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

12 июн. 2026Захваченный сервер Ollama использован в качестве «мозга» автономного конвейера взлома
26 авг. 2025ESET обнаружила PromptLock — вымогатель, использующий локальную модель gpt-oss для написания скриптов · Лабораторное испытание или демонстрация исследователей
17 июл. 2025LameHug: связанное с APT28 вредоносное ПО обращается к LLM Qwen для генерации команд
17 июн. 2025Cato CTRL: новые варианты WormGPT — взломанные обёртки над Grok и Mixtral
7 апр. 2025Xanthorox AI: самостоятельно размещённая криминальная платформа из пяти моделей, продвигаемая как «убийца WormGPT»

Те же досье в других исследованиях

Наблюдается в реальных инцидентах ИИ делает кибератаки проще, быстрее и масштабнее · CAIS · Общих: 4
Наблюдается в реальных инцидентах Злоумышленники и злоупотребления · MIT AI Risk Repository · Общих: 4
Наблюдается в реальных инцидентах Каждую протестированную систему ИИ удалось взломать джейлбрейком · UK AISI · Общих: 1
Наблюдается в реальных инцидентах Конфиденциальность и безопасность · MIT AI Risk Repository · Общих: 1
Наблюдается в реальных инцидентах Люди будут запускать агентов ИИ, чтобы причинять вред · CAIS · Общих: 1

Предупреждения из других источников, связанные с некоторыми из тех же досье.

Исследования и реальность · International AI Safety Report →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в источнике; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию источника. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)