Гонка в области ИИCenter for AI Safety§3.1.2

ИИ делает кибератаки проще, быстрее и масштабнее

Наблюдается в реальных инцидентахПодходящих досье: 87

Предупреждение

ИИ мог бы снизить порог входа для кибератак и повысить их масштаб, скорость и успешность, в том числе против инфраструктуры, от которой зависит общество.

Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 3.1.2, стр. 15.

Что показывает реестр

Лучше всего задокументированный прогноз в реестре: новички создают программы-вымогатели с помощью чат-ботов, вредоносные программы спрашивают у модели, что делать дальше, государственные группы применяют ИИ на каждом этапе атаки, а написанные ИИ скрипты прощупывают промышленные контроллеры.

Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 10 янв. 2025.

Подходящие досье по кварталам

Наблюдается в реальных инцидентахЛабораторное испытание или демонстрация исследователей

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Наблюдается в реальных инцидентах	87	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Другие предупреждения в этой группе

Вне того, что мы измеряем Военные передают решения о жизни и смерти ИИ
Первые признаки Компании выпускают ИИ до того, как он станет безопасным, чтобы выиграть гонку
Вне того, что мы измеряем Автоматизация делает общество зависимым от ИИ
Вне того, что мы измеряем Конкуренция отбирает эгоистичный ИИ

Исследования и реальность →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в статье; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию статьи. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)