International AI Safety ReportЗлонамеренное использование§2.1.3
Преступники и государственные хакеры применяют ИИ в кибератаках
Наблюдается в реальных инцидентахПодходящих досье: 87
Предупреждение
Есть веские доказательства того, что преступные группы и атакующие, которых поддерживают государства, используют ИИ в своих операциях, особенно для поиска уязвимостей в программах и написания вредоносного кода, хотя пока неясно, сделал ли ИИ атаки в целом масштабнее или разрушительнее.
Пересказ источника. Источник: International AI Safety Report 2026, 3 февр. 2026, раздел 2.1.3, стр. 57. Краткое изложение: International AI Safety Report: internationalaisafetyreport.org.
Что показывает реестр
Близко совпадает с реестром: написанные ИИ программы-вымогатели и стилеры, вредоносные программы, которые во время работы спрашивают у модели, что делать, и государственные группы, использующие чат-боты для разведки, фишинга и разработки эксплойтов. Как и доклад, досье показывают использование, а не общий эффект.
Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 10 янв. 2025 · Уже было в реестре на момент публикации исследования.
Подходящие досье по кварталам
Наблюдается в реальных инцидентахЛабораторное испытание или демонстрация исследователей
История статуса
| Дата | Статус | Подходящие досье | Изменение |
|---|---|---|---|
| 18 окт. 2026 | Наблюдается в реальных инцидентах | 87 | Начало отслеживания |
Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json
Все подходящие досье
- Сотни ИИ-агентов эксплуатируют серверы PaperCut NG/MF для кражи учётных данных Windows
- Storm-3168 проводит агентные атаки на Azure через скомпрометированные субъекты-службы
- Шпионская кампания с применением ИИ нацелена на государственную Linux-инфраструктуру
- ИИ-агент провёл многоэтапную кражу данных — первая в Испании утечка с участием ИИ, по данным AEPD
- Бюллетень властей США: злоумышленники используют сгенерированные ИИ скрипты эксплуатации против открытых ПЛК Siemens S7
- Неизвестный злоумышленник использует ИИ-инструмент ARTEX против финансового сектора Южной Кореи
- Операторы вымогателя Aurora используют Cursor Agent AI для разведки и эксплуатации
- Злоупотребление функцией ChatGPT в связке с ClickFix доставляет троян пользователям, ищущим через Google
- ClaudeFix: общие чаты Claude используются для доставки инструкций ClickFix с вредоносным ПО
- Talos обнаружила CLOSEDQUORUM — первый описанный имплант с автономным ИИ-управлением C2
- Агентная ИИ-атака эксплуатирует уязвимости нулевого дня в Zammad против нидерландского института раскрытия уязвимостей
- ИИ-модель Meta в ходе оценки проэксплуатировала уязвимость в стороннем продукте
- Новый вариант NGate скрывается в троянизированном NFC-платёжном приложении и, возможно, создан с помощью ИИ
- Панель C2 вредоносного ПО RatHat использует ИИ для сборки вредоносов и ранжирования жертв примерно в 100 развёртываниях
- Связанная с Китаем TA419 выдаёт себя за экспертов по ИИ для фишинга против инсайдеров американской ИИ-политики
- UAT-11985 использует созданные с помощью ИИ приманки о мероприятиях для AitM-фишинга Google на Тайване
- Unit 42 расследует взлом корпоративной сети автономными ИИ-агентами за считаные часы
- Злоумышленники используют ИИ-инструменты для эксфильтрации данных латиноамериканских организаций
- GTG-10007: китайскоязычные студенты запустили автономную «фабрику эксплойтов» на Claude против 50 организаций
- GTG-30006: иранские аккаунты создавали с помощью Claude фишинговые порталы и имплант SECOMS64
- GTG-50029: франкоязычный хактивист-одиночка взломал 14 европейских политических организаций
- Связанный с Россией злоумышленник использовал ИИ-агентов для самопересборки вредоносного ПО и кражи данных удостоверений личности
- Аффилиаты ShinyHunters с помощью ИИ-агентов выгрузили более 2100 токенов Azure из 40+ тенантов
- Связанный с Sandworm кластер использовал Gemini для написания скриптов подбора паролей против Украины
- SilkParasite: связанный с Китаем шпионаж в Центральной Азии с ИИ-приманками и кодом RAT
- NSA, CISA и FBI предупреждают о сгенерированных ИИ скриптах, зондирующих ПЛК Siemens S7 под видом средств мониторинга OT
- Trend Micro: APT выдаёт AI-агенту операцию за санкционированный пентест для атаки на организацию в Юго-Восточной Азии
- Trend Micro: Earth Krahang и Earth Naga встраивают генеративный ИИ в эксплойты и загрузчики
- TuxBot v3: связанный с Keksec IoT-ботнет, созданный с помощью LLM, сохранил дисклеймеры о безопасности
- JADEPUFFER: LLM-агент проводит вторжение через Langflow вплоть до вымогательства за базы данных от начала до конца
- Полиция Тибы арестовала 19-летнего, создавшего вымогатель с помощью ИИ после новостей об атаке на Asahi
- Sophos обнаружила связанного с вымогателями злоумышленника, создававшего средства обхода EDR с помощью агентов Cursor и Claude
- Бэкдор MiniFast группировки Nimbus Manticore выдаёт разработку с помощью ИИ на фоне иранского конфликта
- GTIG перехватила первую уязвимость нулевого дня, разработанную ИИ: обход 2FA в популярном open-source-инструменте администрирования
- Северокорейская APT45 отправила в Gemini тысячи промптов для проверки эксплойтов и пополнения арсенала
- Связанные с Россией вредоносы CANFAIL и LONGSTREAM разбавляют код сгенерированным LLM мусором, чтобы обмануть аналитиков
- Android-бэкдор PROMPTSPY позволяет Gemini управлять экраном жертвы и блокировать удаление
- Связанная с КНР UNC2814 выдавала себя за аудитора безопасности C/C++, чтобы заставить Gemini искать уязвимости TP-Link
- Talos IR: кража учётных данных в госсекторе через фишинговую страницу, созданную методом «vibe coding» на ИИ-конструкторе Softr
- Unit 42: дроппер на Go спрашивает GPT-4, разворачивать ли Sliver, на основе телеметрии хоста
- Сгенерированные ИИ сайты ClickFix на тайпсквоттинговых доменах доставляют SmartRAT
- Microsoft: северокорейская Coral Sleet использует агентный ИИ-рабочий процесс от приманок до тестирования полезных нагрузок
- HP Wolf: сгенерированные ИИ скрипты заражения в стиле «vibe-hacking» проскальзывают мимо почтовых шлюзов
- Связанная с Ираном группа Dust Specter атакует иракских чиновников вредоносным ПО со следами генеративного ИИ
- Хакер использовал Claude для взлома мексиканских ведомств и кражи 150 ГБ налоговых и избирательных данных
- Фишинговый набор COINBAIT для криптобирж создан с помощью ИИ-конструктора приложений Lovable
- Google: государственные хакеры используют Gemini на всех этапах атак; попытка извлечения модели через 100 тысяч промптов
- Загрузчик HONESTCUE просит Gemini написать свежий код второй стадии на C# и компилирует его в памяти
- CERT-FR: 42 группировки активно используют генеративный ИИ, ни одна пока не действует автономно против Франции
- Облачный вредоносный фреймворк VoidLink оказался по большей части создан ИИ-агентом
- Unit 42 тестирует WormGPT 4 и KawaiiGPT — преступные LLM, пишущие скрипты-вымогатели
- Китайская государственная группа использовала Claude Code для проведения в значительной степени автономного шпионажа
- Связанный с Китаем злоумышленник обошёл отказ Gemini под предлогом CTF, чтобы получить рекомендации по эксплуатации
- Иранская MuddyWater раскрыла Gemini домен C2 и ключ шифрования при отладке вредоносного ПО
- Google сообщает о PROMPTFLUX и другом вредоносном ПО, обращающемся к Gemini во время выполнения
- Стилер QUIETVAULT использует локальные ИИ-CLI для поиска секретов и сливает токены GitHub и npm
- Бэкдор SesameOp месяцами использовал OpenAI Assistants API в качестве скрытого канала управления
- Kaspersky: кампании BlueNoroff GhostCall и GhostHire ускорены генеративным ИИ
- Связанный с Северной Кореей кластер использовал ChatGPT для создания C2-инструментария в фишинге против дипломатов Сеула
- Русскоязычные преступники собирали RAT и стилеры учётных данных из фрагментов, полученных от ChatGPT
- Мошеннические сети в Камбодже, Мьянме и Нигерии использовали ChatGPT для создания персон в инвестиционном мошенничестве
- UNK_DropPitch использовала ChatGPT для создания фишинга и инструментария против полупроводниковой отрасли Тайваня
- Microsoft блокирует фишинговую кампанию с обфусцированными SVG-файлами, сгенерированными LLM
- SentinelLABS обнаружила MalTerminal — генератор вредоносного ПО на основе GPT-4, вероятно созданный до ноября 2023 года
- Kimsuky использует поддельное с помощью ChatGPT южнокорейское военное удостоверение в целевом фишинге
- Преступник-одиночка продавал на форумах созданные с помощью Claude варианты вымогателя по цене от 400 до 1 200 долларов
- Claude Code использован для автоматизации вымогательства с кражей данных у 17 организаций
- ESET обнаружила PromptLock — вымогатель, использующий локальную модель gpt-oss для написания скриптов · Лабораторное испытание или демонстрация исследователей
- Proofpoint: ИИ-конструктор Lovable использован для MFA-фишинга Tycoon, затронувшего 5 000+ организаций
- Написанный ИИ npm-пакет @kodane/patch-manager опустошает Solana-кошельки после 1 500 загрузок
- LameHug: связанное с APT28 вредоносное ПО обращается к LLM Qwen для генерации команд
- RaaS GLOBAL GROUP внедряет AI-чат-ботов-переговорщиков для выбивания семизначных выкупов
- Cato CTRL: новые варианты WormGPT — взломанные обёртки над Grok и Mixtral
- ScopeCreep: русскоязычный актор создал вредоносное ПО для Windows с помощью одноразовых аккаунтов ChatGPT
- VAGue Focus: связанные с Китаем аккаунты использовали ChatGPT для социальной инженерии против чиновников США и прессы
- OpenAI блокирует аккаунты APT15 и APT5, использовавшие ChatGPT для автоматизации пентестов и разведки по США
- Wrong Number: камбоджийская схема мошенничества с «заданиями» использовала ChatGPT для перевода SMS-приманок на шесть языков
- ФБР предупреждает о вишинг-кампании с AI-голосами, имитирующей высокопоставленных чиновников США для захвата аккаунтов
- Anthropic блокирует злоумышленника, использовавшего Claude для создания скрапера учётных данных IoT-камер видеонаблюдения
- Начинающий программист с помощью Claude развил набор инструментов для доксинга и билдер вредоносного ПО с обходом защиты
- Группа мошенников в сфере найма использовала Claude для шлифовки поддельных приманок от имени HR-менеджеров в Восточной Европе
- AkiraBot использует GPT-4o-mini для рассылки спама на 80 000 сайтов через контактные формы и чат-виджеты
- Xanthorox AI: самостоятельно размещённая криминальная платформа из пяти моделей, продвигаемая как «убийца WormGPT»
- Базирующаяся в Камбодже схема романтических афер использовала ChatGPT для генерации многоязычных приманок в соцсетях
- Kimsuky и BlueNoroff использовали ChatGPT для отладки кода брутфорса RDP и исследования методов вторжения
- GhostGPT: нецензурируемый чат-бот, продаваемый в Telegram для написания вредоносного ПО и фишинга для преступников
- Check Point: группировка FunkSec создала свой шифровальщик на Rust с помощью ИИ
Те же досье в других исследованиях
- Наблюдается в реальных инцидентах ИИ делает кибератаки проще, быстрее и масштабнее · CAIS · Общих: 87
- Наблюдается в реальных инцидентах Злоумышленники и злоупотребления · MIT AI Risk Repository · Общих: 87
- Наблюдается в реальных инцидентах Люди будут запускать агентов ИИ, чтобы причинять вред · CAIS · Общих: 15
- Наблюдается в реальных инцидентах Каждую протестированную систему ИИ удалось взломать джейлбрейком · UK AISI · Общих: 5
- Наблюдается в реальных инцидентах Собственные меры безопасности разработчиков ИИ дают сбой · CAIS · Общих: 1
- Наблюдается в реальных инцидентах Безопасность систем ИИ, сбои и ограничения · MIT AI Risk Repository · Общих: 1
Предупреждения из других источников, связанные с некоторыми из тех же досье.
Другие предупреждения в этой группе
- Наблюдается в реальных инцидентах Подделки, созданные ИИ, подпитывают мошенничество и вымогательство
- Первые признаки Контент ИИ используют, чтобы влиять на убеждения людей
- Наблюдается в реальных инцидентах ИИ выполняет всё большую часть каждой атаки, но не полностью автономно
- Пока нет записей ИИ даёт экспертную помощь в создании биологического и химического оружия
- Наблюдается в реальных инцидентах Сами системы ИИ становятся мишенями
Исследования и реальность · International AI Safety Report →