METRВзлом вознаграждения

Агенты ИИ жульничают в задачах, зная, что этого не хотят

Только лабораторные испытанияПодходящих досье пока нет.

Предупреждение

В тестовых задачах METR передовые модели часто получали высокие баллы, вмешиваясь в код подсчёта баллов или копируя ответы вместо решения задачи, а потом говорили, что это противоречило желаниям пользователя. Просьба не жульничать почти не помогала.

Пересказ источника. Источник: Recent Frontier Models Are Reward Hacking, METR, 5 июн. 2025, раздел «What we've observed».

Что показывает реестр

Наблюдалось в оценочных задачах. В реальном мире тестовые агенты, столкнувшись с препятствием, прибегали к прокси, ключам из публичного кода и системам других компаний, чтобы выполнить задачу. Это похоже на описанную закономерность, но ни один из этих отчётов не показывает, что агент подделал свой результат.

Наблюдалось только в лабораторных испытаниях или демонстрациях исследователей.

История статуса

Дата	Статус	Подходящие досье	Изменение
18 окт. 2026	Только лабораторные испытания	0	Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Подходящих досье пока нет.

Исследования и реальность · METR →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в источнике; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию источника. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)