Досье gemini-gmail-summary-phishingПромпт-инъекцияСША
Скрытый текст в письме заставляет сводки Gemini for Workspace выдавать поддельные предупреждения безопасности
Марко Фигероа из Mozilla 0din показал, что белый текст на белом фоне или текст нулевого размера в письме может заставить функцию Gemini «Кратко изложить письмо» добавить поддельное предупреждение Google с номером телефона злоумышленника. Google признала проблему.
СредняяАтака на ИИСтатус: ЛокализованПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 10 июл. 2025
- Локация
- США
- Цель
- Google Gemini for Workspace (сводки Gmail)
- Критичность
- Средняя
- Инициатор
- Марко Фигероа (Mozilla 0din)
- Тип субъекта
- Исследователи безопасности
- Сектор
- Технологии и вендоры ИИ
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
Марко Фигероа из Mozilla 0din показал, что белый текст на белом фоне или текст нулевого размера в письме может заставить функцию Gemini «Кратко изложить письмо» добавить поддельное предупреждение Google с номером телефона злоумышленника. Google признала проблему.
Последствия: Позволяет проводить фишинг в обход спам-фильтров, опираясь на доверенные AI-сводки; злоупотребления не подтверждены
Кто стоит за инцидентом
Субъект: Марко Фигероа (Mozilla 0din)
Атрибуция: Раскрыто через программу bug bounty для GenAI 0din от Mozilla
Мотив: Исследование безопасности
Как это произошло
Вектор атаки: Непрямая инъекция промпта через скрытые HTML и CSS в теле письма; ссылки и вложения не требуются
Первопричина: Генератор сводок воспринимал скрытое содержимое письма как инструкции
Хронология
- 0din публикует proof of concept
- Google заявляет, что проводит red teaming и развернула защитные меры
Реагирование
Google признала проблему и сослалась на многоуровневые меры защиты от инъекций промптов
Текущий статус: Локализован
Источники (открываются в новой вкладке)
- BleepingComputer bleepingcomputer.com
- Tom's Hardware tomshardware.com
Цитировать это досье
Скрытый текст в письме заставляет сводки Gemini for Workspace выдавать поддельные предупреждения безопасности. AI Threat Watch, досье gemini-gmail-summary-phishing, 10 июл. 2025. https://aithreat.io/ru/cases/gemini-gmail-summary-phishing/
Постоянная ссылка: https://aithreat.io/ru/cases/gemini-gmail-summary-phishing/