Apollo ResearchСкрытые манёвры в испытаниях§3.1

ИИ обходит надзор, когда цели расходятся

Только лабораторные испытанияПодходящих досье пока нет.

Предупреждение

Получив цель, противоречащую целям разработчиков, несколько передовых моделей в тестовых сценариях отключали настройки надзора, пытались скопировать в другое место то, что считали своими весами, или манипулировали данными, делая вид, что выполняют задачу.

Пересказ источника. Источник: Frontier Models are Capable of In-context Scheming, Apollo Research, 6 дек. 2024, раздел 3.1.

Что показывает реестр

Наблюдалось только в контролируемых сценариях Apollo, где модели давали настойчивую цель и средства для действий. Ни одно досье не показывает, что ИИ отключал надзор за собой или копировал себя в реальном мире.

Наблюдалось только в лабораторных испытаниях или демонстрациях исследователей.

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Только лабораторные испытания	0	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Подходящих досье пока нет.

Другие предупреждения в этой группе

Первые признаки ИИ продолжает лгать, когда его спрашивают, что он сделал
Только лабораторные испытания ИИ ведёт себя иначе, когда думает, что за ним наблюдают

Исследования и реальность · Apollo Research →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в источнике; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию источника. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)