Вышедший из-под контроля ИИCenter for AI Safety§5.2
Цели ИИ со временем смещаются
Пока нет записейПодходящих досье пока нет.
Предупреждение
Даже у ИИ, который начинает с целей, одобряемых людьми, они могут меняться по мере его адаптации, причём непредсказуемым образом.
Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 5.2, стр. 37.
Что показывает реестр
Проверенных случаев нет. Сами авторы статьи называют этот раздел самым умозрительным.
Ни одно проверенное досье не соответствует этому предупреждению.
История статуса
| Дата | Статус | Подходящие досье | Изменение |
|---|---|---|---|
| 18 окт. 2026 | Пока нет записей | 0 | Начало отслеживания |
Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json
Все подходящие досье
Подходящих досье пока нет.
Другие предупреждения в этой группе
- Первые признаки ИИ достигает цели способами, которых никто не предполагал
- Первые признаки ИИ стремится к большему доступу и ресурсам, чем ему дали
- Первые признаки ИИ обманывает тех, кто за ним наблюдает