UK AI Security InstituteЗащитные механизмы§4
Каждую протестированную систему ИИ удалось взломать джейлбрейком
Наблюдается в реальных инцидентахПодходящих досье: 6
Предупреждение
AISI обнаружил универсальные джейлбрейки — атаки, обходящие защитные механизмы для многих видов вредоносных запросов, — во всех протестированных системах, хотя на взлом некоторых механизмов теперь требуется гораздо больше экспертных усилий.
Пересказ источника. Источник: Frontier AI Trends Report, UK AI Security Institute, 18 дек. 2025, раздел 4, стр. 24.
Что показывает реестр
Реальные злоумышленники обходят защитные механизмы: государственные группы добивались ответов на отклонённые запросы, выдавая себя за аудиторов, участников соревнований capture-the-flag или авторизованных пентестеров, преступники продают взломанные чат-боты для создания вредоносных программ и фишинга, а на дознании прозвучало, что подросток получил вредную информацию от ChatGPT, сказав, что его вопросы нужны для исследования.
Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 23 янв. 2025 · Уже было в реестре на момент публикации исследования.
Подходящие досье по кварталам
История статуса
| Дата | Статус | Подходящие досье | Изменение |
|---|---|---|---|
| 18 окт. 2026 | Наблюдается в реальных инцидентах | 6 | Начало отслеживания |
Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json
Все подходящие досье
- Trend Micro: APT выдаёт AI-агенту операцию за санкционированный пентест для атаки на организацию в Юго-Восточной Азии
- Связанная с КНР UNC2814 выдавала себя за аудитора безопасности C/C++, чтобы заставить Gemini искать уязвимости TP-Link
- На британском дознании выяснилось, что 16-летний подросток обошёл защитные механизмы ChatGPT перед смертью
- Связанный с Китаем злоумышленник обошёл отказ Gemini под предлогом CTF, чтобы получить рекомендации по эксплуатации
- Cato CTRL: новые варианты WormGPT — взломанные обёртки над Grok и Mixtral
- GhostGPT: нецензурируемый чат-бот, продаваемый в Telegram для написания вредоносного ПО и фишинга для преступников
Те же досье в других исследованиях
- Наблюдается в реальных инцидентах ИИ делает кибератаки проще, быстрее и масштабнее · CAIS · Общих: 5
- Наблюдается в реальных инцидентах Преступники и государственные хакеры применяют ИИ в кибератаках · International AI Safety Report · Общих: 5
- Наблюдается в реальных инцидентах Злоумышленники и злоупотребления · MIT AI Risk Repository · Общих: 5
- Наблюдается в реальных инцидентах ИИ выполняет всё большую часть каждой атаки, но не полностью автономно · International AI Safety Report · Общих: 1
- Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report · Общих: 1
- Первые признаки Защиту открытых моделей легко снять · International AI Safety Report · Общих: 1
Предупреждения из других источников, связанные с некоторыми из тех же досье.