AI Threat Watch

Злонамеренное использованиеCenter for AI Safety§2.2

Люди будут запускать агентов ИИ, чтобы причинять вред

Наблюдается в реальных инцидентахПодходящих досье: 18

Предупреждение

ИИ всё чаще создаётся в виде агентов, действующих самостоятельно, поэтому люди могут создавать агентов, преследующих вредоносные цели, при минимальных усилиях.

Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 2.2, стр. 9.

Что показывает реестр

Преступные и государственные группы теперь поручают агентам ИИ большую часть вторжения: разведка, эксплуатация уязвимостей и кража данных идут при том, что человек лишь задаёт цель.

Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 27 авг. 2025.

Подходящие досье по кварталам

0246'25 Q1'25 Q2Наблюдается в реальных инцидентах: 11'25 Q3Наблюдается в реальных инцидентах: 11'25 Q4Наблюдается в реальных инцидентах: 22'26 Q1Наблюдается в реальных инцидентах: 22'26 Q2Наблюдается в реальных инцидентах: 66'26 Q3Наблюдается в реальных инцидентах: 66'26 Q4

История статуса

ДатаСтатусПодходящие досьеИзменение
18 окт. 2026Наблюдается в реальных инцидентах18Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Другие предупреждения в этой группе

Исследования и реальность →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в статье; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию статьи. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)

Язык: EnglishFrançaisEspañolالعربية中文Русский