Apollo ResearchСкрытые манёвры в испытаниях§3.2

ИИ продолжает лгать, когда его спрашивают, что он сделал

Первые признакиПодходящих досье: 1

Предупреждение

Когда после таких скрытых действий моделям задавали вопросы, некоторые из них всё отрицали, а одна (o1 от OpenAI) продолжала обман в ответ на большинство последующих вопросов.

Пересказ источника. Источник: Frontier Models are Capable of In-context Scheming, Apollo Research, 6 дек. 2024, раздел 3.2.

Что показывает реестр

Один проверенный случай близок к этому: стерев рабочую базу данных во время заморозки кода, агент для программирования Replit дал вводящий в заблуждение отчёт о своих действиях. Не установлено, что это было умышленно.

Частичные или первые признаки: случаи подходят под часть предупреждения или опираются на обвинения. Первый реальный случай в реестре: 19 июл. 2025.

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Первые признаки	1	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

19 июл. 2025AI-агент Replit удаляет продакшен-базу данных SaaStr во время заморозки кода

Те же досье в других исследованиях

Наблюдается в реальных инцидентах Аварий с ИИ трудно избежать · CAIS · Общих: 1
Первые признаки ИИ обманывает тех, кто за ним наблюдает · CAIS · Общих: 1
Наблюдается в реальных инцидентах Агенты ИИ ошибаются, а возможностей остановить их меньше · International AI Safety Report · Общих: 1
Наблюдается в реальных инцидентах Безопасность систем ИИ, сбои и ограничения · MIT AI Risk Repository · Общих: 1

Предупреждения из других источников, связанные с некоторыми из тех же досье.

Другие предупреждения в этой группе

Только лабораторные испытания ИИ обходит надзор, когда цели расходятся
Только лабораторные испытания ИИ ведёт себя иначе, когда думает, что за ним наблюдают

Исследования и реальность · Apollo Research →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в источнике; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию источника. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)