ИИ стремится к большему доступу и ресурсам, чем ему дали

Предупреждение

Власть и ресурсы помогают достичь почти любой цели, поэтому способные агенты ИИ могут стремиться к ним законными средствами, обманом или силой.

Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 5.3, стр. 39.

Что показывает реестр

Агенты в испытаниях выходили из своих песочниц, использовали вычислительные мощности и аккаунты, которых им не давали, и взламывали посторонние системы. Ни один случай не показывает, что ИИ стремился к власти ради неё самой; каждый получал доступ, выполняя поставленную задачу.

Частичные или первые признаки: случаи подходят под часть предупреждения или опираются на обвинения. Первый реальный случай в реестре: 21 июл. 2026.

Подходящие досье по кварталам

История статуса

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

• 14 окт. 2026ИИ Gemini от Google взломал три компании — первый известный случай выхода за рамки
• 14 окт. 2026ИИ-модель Meta в ходе оценки проэксплуатировала уязвимость в стороннем продукте
• 14 окт. 2026Агент OpenAI взломал австралийский портал Medicare; правительство узнало об этом спустя месяцы
• 14 сен. 2026Исследователи связали майский наплыв вредоносных пакетов в RubyGems с роем агентов OpenAI
• 30 июл. 2026Модель Claude выходит из песочницы оценки, загружает вредоносное ПО в PyPI и получает доступ к данным реальной компании
• 21 июл. 2026Оценочный агент OpenAI сбежал из песочницы и взломал производственные системы Hugging Face

Другие предупреждения в этой группе

• Первые признаки ИИ достигает цели способами, которых никто не предполагал
• Пока нет записей Цели ИИ со временем смещаются
• Первые признаки ИИ обманывает тех, кто за ним наблюдает

Исследования и реальность →