Досье gitlab-duo-hidden-promptПромпт-инъекцияСША
Инъекция промпта в GitLab Duo приводит к утечке приватного исходного кода через скрытый текст в merge request
Legit Security показала, что промпты, скрытые с помощью Unicode-смагглинга, Base16 или белого текста KaTeX в merge request и issue, могут заставить GitLab Duo выгружать приватный код и внедрять HTML в свои ответы. GitLab выпустила исправление.
СредняяАтака на ИИСтатус: ИсправленПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 22 мая 2025
- Локация
- США
- Цель
- AI-ассистент GitLab Duo
- Критичность
- Средняя
- Инициатор
- Исследовательская команда Legit Security
- Тип субъекта
- Исследователи безопасности
- Сектор
- Технологии и вендоры ИИ
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
Legit Security показала, что промпты, скрытые с помощью Unicode-смагглинга, Base16 или белого текста KaTeX в merge request и issue, могут заставить GitLab Duo выгружать приватный код и внедрять HTML в свои ответы. GitLab выпустила исправление.
Последствия: Потенциальная утечка приватного исходного кода и подсовывание разработчикам вредоносных пакетов; об эксплуатации не сообщалось
Кто стоит за инцидентом
Субъект: Исследовательская команда Legit Security
Атрибуция: Сообщено GitLab 12 февраля 2025 года и исправлено до раскрытия
Мотив: Исследование безопасности
Как это произошло
Вектор атаки: Непрямая инъекция промпта в содержимое проекта, которое читает Duo; потоковый markdown, рендерившийся как HTML, позволял выгрузку данных через скрипты и изображения
Первопричина: Duo воспринимал весь контекст страницы, включая комментарии и описания, как инструкции и рендерил вывод в HTML до санитизации
Хронология
- Legit Security сообщает о проблемах GitLab
- GitLab выпускает исправления
- Публичное раскрытие
Реагирование
GitLab устранила проблемы рендеринга и инъекции
Текущий статус: Исправлен
Источники (открываются в новой вкладке)
- Legit Security legitsecurity.com
- The Hacker News thehackernews.com
- TechRepublic techrepublic.com
Цитировать это досье
Инъекция промпта в GitLab Duo приводит к утечке приватного исходного кода через скрытый текст в merge request. AI Threat Watch, досье gitlab-duo-hidden-prompt, 22 мая 2025. https://aithreat.io/ru/cases/gitlab-duo-hidden-prompt/
Постоянная ссылка: https://aithreat.io/ru/cases/gitlab-duo-hidden-prompt/