Организационные рискиCenter for AI Safety§4

Мощный ИИ утекает или похищается

Наблюдается в реальных инцидентахПодходящих досье: 11

Предупреждение

Модели ИИ могут быть случайно слиты или похищены государственными, отраслевыми или преступными акторами, поэтому разработчикам ИИ нужна передовая информационная безопасность.

Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 4, стр. 34.

Что показывает реестр

О краже весов моделей публично не сообщалось, но из-за утёкших ключей были раскрыты закрытые модели, посторонние получили доступ к модели с ограниченным доступом, исходный код был случайно опубликован, а компании ИИ обвиняют конкурентов в копировании возможностей моделей через массовые запросы.

Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 29 янв. 2025.

Подходящие досье по кварталам

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Наблюдается в реальных инцидентах	11	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Другие предупреждения в этой группе

Наблюдается в реальных инцидентах Аварий с ИИ трудно избежать
Наблюдается в реальных инцидентах Собственные меры безопасности разработчиков ИИ дают сбой

Исследования и реальность →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в статье; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию статьи. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)