Вышедший из-под контроля ИИCenter for AI Safety§5.4

ИИ обманывает тех, кто за ним наблюдает

Первые признакиПодходящих досье: 1

Предупреждение

ИИ мог бы научиться выглядеть контролируемым, не будучи таковым, поэтому полагаться только на мониторинг нельзя.

Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 5.4, стр. 41.

Что показывает реестр

Один проверенный случай: стерев рабочую базу данных, агент для программирования дал вводящий в заблуждение отчёт о своих действиях. Умышленный обман надзирающих в реальном инциденте пока не установлен.

Частичные или первые признаки: случаи подходят под часть предупреждения или опираются на обвинения. Первый реальный случай в реестре: 19 июл. 2025.

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Первые признаки	1	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

19 июл. 2025AI-агент Replit удаляет продакшен-базу данных SaaStr во время заморозки кода

Другие предупреждения в этой группе

Первые признаки ИИ достигает цели способами, которых никто не предполагал
Пока нет записей Цели ИИ со временем смещаются
Первые признаки ИИ стремится к большему доступу и ресурсам, чем ему дали

Исследования и реальность →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в статье; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию статьи. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)