Конфиденциальность и безопасность

Область риска

ИИ, который раскрывает или вычисляет конфиденциальные персональные данные, а также уязвимости систем ИИ и их инструментария, которые используют злоумышленники.

Пересказ источника. Источник: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 авг. 2024, область 2, таблица 2, стр. 8. Краткое изложение: MIT AI Risk Initiative: airisk.mit.edu.

Что показывает реестр

Одна из двух опор реестра: утёкшие чаты и ключи, открытые базы данных, промпт-инъекции, перехваченные агенты, отравленные пакеты и украденные аккаунты ИИ-сервисов.

Проверенные досье показывают, что этот риск реализуется в реальном мире.

Подходящие досье по кварталам

История статуса

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

• 16 окт. 2026Инфостилер Aoki научился красть учётные данные Claude, ChatGPT и Cursor
• 16 окт. 2026Кампания по угону LLM JINX-2401 атакует среды AWS с повышением привилегий IAM
• 15 окт. 2026Утечка на платформе сексуальных дипфейков BodySwap затронула около 10 300 учётных записей
• 15 окт. 2026Нераскрытое дополнение в jqwik предписывает ИИ-агентам для программирования удалять вывод приложения
• 15 окт. 2026Скрытая промпт-инъекция в судебном документе предписывает ИИ-рецензентам встать на сторону заявителя
• 14 окт. 2026Поддельные страницы загрузки Codex на Google Sites распространяют вредоносное ПО для macOS через ClickFix
• 14 окт. 2026Активно эксплуатируется SQL-инъекция в прокси LiteLLM (CVE-2026-42208)
• 14 окт. 2026Бэкдор macOS.Gaslight внедряет фальшивые промпты в LLM-инструменты первичного анализа вредоносного ПО
• 14 окт. 2026Активно эксплуатируется SSRF-уязвимость в MLflow (CVE-2026-64849), открывающая доступ к внутренним службам
• 14 окт. 2026Вредоносный навык OpenClaw распространяет Remcos RAT и GhostLoader
• 14 окт. 2026Активно эксплуатируется RCE через внедрение кода в Ray (CVE-2025-62593)
• 14 окт. 2026Wiz Red Agent добрался до внутренней Jira компании Snowflake через уязвимость GitHub Actions в PR, созданном с помощью Copilot · Лабораторное испытание или демонстрация исследователей
• 7 окт. 2026Ботнет PoeLLM заразил 3400 серверов с открытыми LiteLLM и Ollama для криптомайнинга
• 29 сен. 2026PixelLeak: ИИ-агенты для программирования выложили 13 000 внутренних скриншотов в публичный GitHub
• 10 сен. 2026GTG-16005: по данным Anthropic, Alibaba провела дистилляцию Claude на 151 млн обменов для обучения Qwen
• 10 сен. 2026GTG-16006: Zhipu обвиняют в ориентированной на киберзадачи дистилляции Claude Opus через 273 аккаунта
• 10 сен. 2026GTG-16008: Xiaomi прогоняла пользовательские сессии MiMo через Claude с 1500 аккаунтов
• 10 сен. 2026GTG-50020: вымогатель провёл промпт-инъекцию в песочницу оценки ИИ-вендора, а затем атаковал 30 ИИ-компаний
• 10 сен. 2026GTG-50021: фальшивый реселлер Claude со скидкой проксировал трафик и похищал учётные данные Anthropic
• 8 сен. 2026Внедрённый промпт заставляет ChatGPT копировать данные Gmail жертв в аккаунт злоумышленника · Лабораторное испытание или демонстрация исследователей
• 8 сен. 2026DUSTMAKER от TeamPCP прячется в папках .claude и .cursor и проводит промпт-инъекции против LLM-сканеров
• 8 сен. 2026Okta: бесплатный дамп стилера в Telegram содержит тысячи действующих сессионных токенов ИИ-сервисов и 24 ключа API
• 2 сен. 2026MCP-шлюз LiteLLM принимает любой Bearer-токен (CVE-2026-59822); CISA подтверждает эксплуатацию
• 31 авг. 2026Злоумышленник похитил ключ API METR из открытого агентного приложения исследователя и израсходовал подаренные кредиты на 600 000 долларов
• 21 авг. 2026Truffle Security: в открытом доступе 9300 действующих ключей AWS, крупнейший отдельный источник — Hugging Face · Лабораторное испытание или демонстрация исследователей
• 19 авг. 2026CISA признала эксплуатируемой SSRF в вебхуках MLflow (CVE-2026-64849), открывающую доступ к облачным метаданным
• 17 авг. 2026Эксплуатируемая через браузер RCE в Ray (CVE-2025-62593), используемая ботнетом RondoDox, внесена в каталог CISA KEV
• 4 авг. 2026Langflow получил ещё четыре записи в KEV в 2026 году: перехват токенов, IDOR, RCE с правами root и цепочка auto_login
• 2 июл. 2026DuneSlide: две уязвимости Cursor с оценкой 9.8 позволяют промпт-инъекции выйти из песочницы для RCE на уровне ОС · Лабораторное испытание или демонстрация исследователей
• 17 июн. 2026Северокорейская Sapphire Sleet захватывает аккаунт мейнтейнера и троянизирует более 140 npm-пакетов Mastra AI
• 16 июн. 202615 AI-плагинов JetBrains Marketplace с 70 000 установок крадут ключи OpenAI и DeepSeek
• 15 июн. 2026SearchLeak: цепочка атак в один клик в M365 Copilot Enterprise Search выводит данные через Bing · Лабораторное испытание или демонстрация исследователей
• 12 июн. 2026Захваченный сервер Ollama использован в качестве «мозга» автономного конвейера взлома
• 9 июн. 2026Тайпсквоттинговые MCP-серверы в npm, маскирующиеся под официальные пакеты modelcontextprotocol, при установке отправляют данные злоумышленникам
• 8 июн. 2026CISA внесла активно эксплуатируемую RCE-уязвимость ИИ-шлюза LiteLLM (CVE-2026-42271) в каталог KEV
• 8 июн. 2026Хакеры обманом заставили ИИ-чат-бота поддержки Meta передавать им учётные записи Instagram
• 2 июн. 2026Троянизированный npm-пакет codexui-android похищает токены OpenAI Codex
• 14 мая 2026OpenAI подтвердила взлом двух устройств сотрудников и репозиториев исходного кода в ходе атаки npm-червя Mini Shai-Hulud
• 12 мая 2026Червь Mini Shai-Hulud поразил пакеты TanStack, Mistral AI и Guardrails AI
• 11 мая 2026Китайские кластеры UNC5673 и UNC6201 объединяли учётные записи Gemini, Claude и OpenAI в пулы через прокси
• 7 мая 2026Поддельный репозиторий «OpenAI Privacy Filter» возглавил тренды Hugging Face, распространяя инфостилер на Rust
• 30 апр. 2026Бэкдор в PyTorch Lightning 2.6.3 в PyPI запускает стилер учётных данных на базе Bun при импорте
• 21 апр. 2026Побег из песочницы Claude Code через символические ссылки позволяет выполнять код на хосте (CVE-2026-39861) · Лабораторное испытание или демонстрация исследователей
• 21 апр. 2026Группа без авторизации получила доступ к ограниченной модели Claude Mythos компании Anthropic через вендора
• 20 апр. 2026Исследователь: бесплатный аккаунт Lovable мог читать исходный код, ключи Supabase и чаты проектов, созданных до ноября 2025 года · Лабораторное испытание или демонстрация исследователей
• 19 апр. 2026OAuth-разрешение скомпрометированного ИИ-инструмента Context.ai привело ко взлому Vercel
• 16 апр. 2026RCE в блокнотах Marimo (CVE-2026-39987) эксплуатируется за считанные часы; RAT NKAbuse размещён на Hugging Face Spaces
• 15 апр. 2026Промпт-инъекция приводит к утечке данных из агентов Microsoft Copilot Studio и Salesforce Agentforce · Лабораторное испытание или демонстрация исследователей
• 7 апр. 2026RCE максимальной критичности в CustomMCP Flowise (CVE-2025-59528) эксплуатируется в реальных атаках
• 7 апр. 2026GrafanaGhost: непрямая промпт-инъекция заставляет ИИ Grafana раскрывать корпоративные данные · Лабораторное испытание или демонстрация исследователей
• 3 апр. 2026Отравленные релизы LiteLLM связаны со взломом Mercor, раскрывшим секреты обучения ИИ-лабораторий
• 2 апр. 2026prt-scan: кампания на базе ИИ эксплуатирует pull_request_target в рабочих процессах GitHub
• 31 мар. 2026Утечка source map Claude Code и последовавшие за ней поддельные репозитории «утечки» с вредоносным ПО
• 31 мар. 2026Инъекция команд через имя ветки в OpenAI Codex раскрывала токены GitHub в облачных задачах · Лабораторное испытание или демонстрация исследователей
• 31 мар. 2026«Двойной агент» в Vertex AI: агенты с избыточными привилегиями раскрывают учётные данные и код · Лабораторное испытание или демонстрация исследователей
• 30 мар. 2026Check Point обнаружила DNS-туннель из песочницы кода ChatGPT, позволяющий утечку чатов и файлов · Лабораторное испытание или демонстрация исследователей
• 25 мар. 2026Неаутентифицированная RCE в Langflow (CVE-2026-33017) эксплуатируется в течение 20 часов после бюллетеня
• 20 мар. 2026Ошибочный совет ИИ-агента Meta на два часа раскрыл чувствительные данные сотрудникам
• 18 мар. 2026Cybernews: 45 из 98 серверов Open WebUI без аутентификации уже запускают майнеры и стилеры
• 11 мар. 2026CISA подтверждает активную эксплуатацию RCE максимальной критичности через инъекцию выражений в n8n
• 9 мар. 2026Автономный ИИ-агент взломал платформу чат-бота Lilli компании McKinsey за два часа · Лабораторное испытание или демонстрация исследователей
• 5 мар. 2026ИИ-поиск Bing продвигает поддельные репозитории установщика OpenClaw, распространяющие стилеры Atomic и Vidar
• 23 февр. 2026Anthropic обвиняет DeepSeek, Moonshot и MiniMax в дистилляции Claude через 24 000 учётных записей
• 17 февр. 2026Скомпрометированный релиз Cline CLI в npm скрытно устанавливает агента OpenClaw
• 16 февр. 2026Инфостилер похищает токен шлюза OpenClaw, ключи устройства и файлы памяти агента
• 4 февр. 2026Более 230 вредоносных навыков OpenClaw на ClawHub распространяют стилеры паролей
• 2 февр. 2026Социальная сеть для ИИ-агентов Moltbook раскрыла 1,5 млн API-токенов агентов · Лабораторное испытание или демонстрация исследователей
• 29 янв. 2026Приложение Chat & Ask AI раскрыло около 300 млн сообщений 25 млн пользователей через открытый Firebase · Лабораторное испытание или демонстрация исследователей
• 29 янв. 2026Датасеты Hugging Face использовались для раздачи полиморфных Android-RAT каждые 15 минут
• 28 янв. 2026Операция Bizarre Bazaar: захваченные LLM-эндпоинты перепродавались через коммерческий маркетплейс
• 27 янв. 2026Десятки тысяч шлюзов ИИ-агентов OpenClaw открыты в интернете и раскрывают API-ключи и переписку
• 23 янв. 2026MaliciousCorgi: ИИ-расширения VS Code «ChatGPT» и «ChatMoss» с 1,5 млн установок похищают открытые файлы
• 21 янв. 2026BodySnatcher: неаутентифицированная имперсонация через ServiceNow Virtual Agent (CVE-2025-12420) · Лабораторное испытание или демонстрация исследователей
• 21 янв. 2026Ошибка в Microsoft 365 Copilot позволяла резюмировать конфиденциальные письма вопреки политикам DLP
• 20 янв. 2026Уязвимости инъекции промпта в Git MCP-сервере Anthropic позволяют доступ к файлам и выполнение кода · Лабораторное испытание или демонстрация исследователей
• 14 янв. 2026Reprompt: атака в один клик захватывает сессии Microsoft Copilot для кражи данных · Лабораторное испытание или демонстрация исследователей
• 8 дек. 2025GeminiJack: инъекция без клика в Gemini Enterprise эксфильтрировала данные Gmail, Calendar и Docs · Лабораторное испытание или демонстрация исследователей
• 26 нояб. 2025Данные пользователей OpenAI API раскрыты при взломе аналитического поставщика Mixpanel
• 25 нояб. 2025HashJack: промпты, скрытые во фрагментах URL, захватывают Comet, Copilot в Edge и Gemini в Chrome · Лабораторное испытание или демонстрация исследователей
• 18 нояб. 2025ShadowRay 2.0 превращает открытые ИИ-кластеры Ray в самораспространяющийся майнинговый ботнет
• 5 нояб. 2025HackedGPT: Tenable обнаружила семь уязвимостей ChatGPT, включая персистентную инъекцию в память · Лабораторное испытание или демонстрация исследователей
• 15 окт. 2025Обход пути в хостинге MCP Smithery открыл root-доступ к 3 000 размещённых MCP-серверов · Лабораторное испытание или демонстрация исследователей
• 9 окт. 2025CamoLeak: скрытые комментарии в PR заставляют GitHub Copilot Chat сливать секреты приватных репозиториев · Лабораторное испытание или демонстрация исследователей
• 30 сен. 2025Gemini Trifecta: уязвимости в логах, истории поиска и браузинге позволяют Gemini эксфильтрировать данные пользователей · Лабораторное испытание или демонстрация исследователей
• 25 сен. 2025ForcedLeak: инъекция промпта через Web-to-Lead и просроченный домен за 5 долларов сливают CRM-данные Agentforce · Лабораторное испытание или демонстрация исследователей
• 25 сен. 2025Обнаружен первый вредоносный MCP-сервер: npm-пакет postmark-mcp отправляет скрытые копии всех писем злоумышленнику
• 19 сен. 2025Агенты Notion 3.0 обмануты PDF с белым текстом и сливают данные клиентов через веб-поиск · Лабораторное испытание или демонстрация исследователей
• 18 сен. 2025ShadowLeak: инъекция промпта без клика заставляет ChatGPT Deep Research сливать данные Gmail · Лабораторное испытание или демонстрация исследователей
• 13 сен. 2025WhiteCobra наводняет Open VSX и VS Code Marketplace 24 расширениями, крадущими криптовалюту
• 10 сен. 2025Vyro AI оставила 116 ГБ промптов и токенов ImagineArt и Chatly на открытом Elasticsearch
• 2 сен. 2025Cisco Talos обнаружила более 1 100 LLM-серверов Ollama, открытых в интернет без аутентификации · Лабораторное испытание или демонстрация исследователей
• 27 авг. 2025s1ngularity: троянизированные пакеты Nx используют CLI Claude и Gemini для кражи секретов
• 26 авг. 2025Украденные OAuth-токены ИИ-чат-бота Drift использованы для налёта на 700+ тенантов Salesforce
• 20 авг. 2025Brave показывает, что Perplexity Comet можно захватить через комментарий на Reddit для кражи одноразовых кодов Gmail · Лабораторное испытание или демонстрация исследователей
• 20 авг. 2025Более 370 000 разговоров с Grok оказались в поиске Google через ссылки общего доступа
• 18 авг. 2025Microsoft 365 Copilot составлял краткие изложения файлов без записи в журнал аудита · Лабораторное испытание или демонстрация исследователей
• 18 авг. 2025Чат-бот поддержки Lenovo Lena вынужден выдать XSS-нагрузку, крадущую сессионные cookie операторов · Лабораторное испытание или демонстрация исследователей
• 12 авг. 2025Инъекция промпта в Copilot переводит VS Code в режим автоодобрения для RCE (CVE-2025-53773) · Лабораторное испытание или демонстрация исследователей
• 6 авг. 2025AgentFlayer: один отравленный документ Google Drive заставляет ChatGPT сливать API-ключи · Лабораторное испытание или демонстрация исследователей
• 6 авг. 2025Invitation Is All You Need: отравленные приглашения в календаре позволяют Gemini управлять умным домом · Лабораторное испытание или демонстрация исследователей
• 5 авг. 2025Инъекция команд в Claude Code обходит запрос подтверждения (CVE-2025-54795 и -54794) · Лабораторное испытание или демонстрация исследователей
• 1 авг. 2025CurXecute и MCPoison: уязвимости в конфигурации MCP в Cursor IDE позволяют скрытое выполнение кода · Лабораторное испытание или демонстрация исследователей
• 31 июл. 2025Тысячи расшаренных разговоров ChatGPT всплывают в поиске Google; OpenAI отключает функцию
• 29 июл. 2025Wiz обнаружила обход аутентификации, раскрывающий приватные корпоративные приложения на платформе Base44 от Wix · Лабораторное испытание или демонстрация исследователей
• 28 июл. 2025Gemini CLI захвачен через отравленный README для скрытой эксфильтрации учётных данных · Лабораторное испытание или демонстрация исследователей
• 25 июл. 2025Открытые серверы llama.cpp раскрывают пользовательские промпты через отладочный эндпоинт /slots · Лабораторное испытание или демонстрация исследователей
• 23 июл. 2025Хакер внедрил промпт для уничтожения данных в расширение Amazon Q Developer для VS Code
• 15 июл. 2025Баг Meta AI позволял любому авторизованному пользователю читать чужие приватные промпты и ответы · Лабораторное испытание или демонстрация исследователей
• 14 июл. 2025Сотрудник DOGE Марко Элез допустил утечку API-ключа xAI, дающего доступ к 52 моделям Grok
• 10 июл. 2025Поддельное расширение «Solidity Language» в Open VSX опустошило кошелёк разработчика Cursor на 500 000 долларов
• 10 июл. 2025Скрытый текст в письме заставляет сводки Gemini for Workspace выдавать поддельные предупреждения безопасности · Лабораторное испытание или демонстрация исследователей
• 9 июл. 2025AI-бот найма McHire компании McDonald's раскрыл до 64 млн записей соискателей через логин «123456» · Лабораторное испытание или демонстрация исследователей
• 6 июл. 2025Инъекция промпта через тикет в поддержку заставляет Cursor с Supabase MCP выдать токены интеграций · Лабораторное испытание или демонстрация исследователей
• 5 июл. 2025Nikkei обнаружила скрытые промпты, требующие от ИИ-рецензентов хвалить статьи, в 17 препринтах из 14 университетов · Лабораторное испытание или демонстрация исследователей
• 25 июн. 2025Образец вредоносного ПО Skynet содержит инъекцию промпта для обмана AI-инструментов анализа вредоносного ПО
• 18 июн. 2025Бэкдор Pickai распространяется через уязвимости ComfyUI почти на 700 серверов генерации AI-изображений
• 17 июн. 2025Логическая ошибка в MCP-сервере Asana месяц раскрывала данные клиентов между организациями
• 17 июн. 2025RCE в конструкторе AI-агентов Langflow (CVE-2025-3248) эксплуатируется для распространения ботнета Flodrix
• 12 июн. 2025Лента Discover приложения Meta AI транслирует приватные медицинские и юридические чаты пользователей
• 11 июн. 2025EchoLeak: zero-click инъекция промпта в Microsoft 365 Copilot (CVE-2025-32711) · Лабораторное испытание или демонстрация исследователей
• 2 июн. 2025Открытый экземпляр Open WebUI захвачен для запуска сгенерированного ИИ криптомайнера и инфостилера
• 29 мая 2025Приложения, созданные Lovable, допускают утечку пользовательских данных: 303 эндпоинта в 170 проектах без безопасности на уровне строк · Лабораторное испытание или демонстрация исследователей
• 22 мая 2025PyPI-пакеты, выдающие себя за SDK Alibaba AI Labs, скрывают инфостилер в модели PyTorch
• 22 мая 2025Инъекция промпта в GitLab Duo приводит к утечке приватного исходного кода через скрытый текст в merge request · Лабораторное испытание или демонстрация исследователей
• 9 мая 2025npm-пакеты sw-cur и aiide-cur внедряют бэкдор в Cursor на macOS, 3 200 загрузок
• 1 мая 2025Сотрудник xAI допустил утечку API-ключа на GitHub, открыв доступ к 60 приватным моделям Grok на два месяца
• 24 апр. 2025PIPC Южной Кореи: DeepSeek передавала промпты корейских пользователей связанной с ByteDance Volcano Engine
• 12 мар. 2025AP и Seattle Times получили около 3 500 нередактированных файлов учащихся, помеченных ИИ-мониторингом Gaggle в Ванкувере, штат Вашингтон
• 27 февр. 2025Microsoft называет участников Storm-2139, захвативших Azure OpenAI с помощью украденных ключей
• 26 февр. 2025Copilot выдаёт код из 20 000 ставших приватными репозиториев GitHub через кеш Bing · Лабораторное испытание или демонстрация исследователей
• 9 февр. 2025Хакер Gloomer заявляет о взломе OmniGPT с утечкой 34 млн строк чатов и контактов 30 000 пользователей
• 7 февр. 2025Группы LLMjacking загружают украденные ключи DeepSeek в обратные прокси через несколько дней после запуска модели
• 6 февр. 2025nullifAI: модели с повреждёнными pickle-файлами на Hugging Face обходят Picklescan и содержат reverse shell
• 29 янв. 2025Поддельные PyPI-пакеты deepseeek и deepseekai крадут секреты у разработчиков DeepSeek
• 29 янв. 2025DeepSeek оставила открытой базу данных ClickHouse с журналами чатов и секретами API
• 29 янв. 2025OpenAI заявляет о наличии доказательств того, что DeepSeek дистиллировала её модели через заблокированные API-аккаунты
• 28 янв. 2025DeepSeek приостанавливает регистрацию новых пользователей на пике месячной кампании DDoS и брутфорса
• 4 дек. 2024AI-библиотека Ultralytics взломана через GitHub Actions для распространения криптомайнера в PyPI
• 1 июл. 2024Информатор: ИИ-чат-бот «Ed» стоимостью 6 млн долларов, созданный для LAUSD, отправлял данные учеников за рубеж до краха вендора AllHere
• 18 сен. 2023Исследователи Microsoft AI раскрыли 38 ТБ данных из-за неправильно настроенного SAS-токена
• 30 дек. 2022Вредоносный пакет torchtriton атакует PyTorch через PyPI по схеме dependency confusion

Те же досье в других исследованиях

• Наблюдается в реальных инцидентах Сами системы ИИ становятся мишенями · International AI Safety Report · Общих: 85
• Наблюдается в реальных инцидентах Аварий с ИИ трудно избежать · CAIS · Общих: 13
• Наблюдается в реальных инцидентах Мощный ИИ утекает или похищается · CAIS · Общих: 11
• Наблюдается в реальных инцидентах Агенты ИИ ошибаются, а возможностей остановить их меньше · International AI Safety Report · Общих: 3
• Наблюдается в реальных инцидентах Собственные меры безопасности разработчиков ИИ дают сбой · CAIS · Общих: 2
• Наблюдается в реальных инцидентах ИИ выполняет всё большую часть каждой атаки, но не полностью автономно · International AI Safety Report · Общих: 1

Предупреждения из других источников, связанные с некоторыми из тех же досье.

Другие предупреждения в этой группе

• Вне того, что мы измеряем Дискриминация и токсичный контент
• Первые признаки Недостоверная информация
• Наблюдается в реальных инцидентах Злоумышленники и злоупотребления
• Наблюдается в реальных инцидентах Взаимодействие человека и компьютера
• Вне того, что мы измеряем Социально-экономический и экологический вред
• Наблюдается в реальных инцидентах Безопасность систем ИИ, сбои и ограничения