Досье gaggle-vancouver-student-records-exposureУтечка модели и данныхСША
AP и Seattle Times получили около 3 500 нередактированных файлов учащихся, помеченных ИИ-мониторингом Gaggle в Ванкувере, штат Вашингтон
В ответ на запрос о предоставлении документов The Seattle Times и AP получили ссылки почти на 3 500 нередактированных скриншотов учебных работ школьников, помеченных ИИ-системой слежения Gaggle. Тексты касались суицида, депрессии, насилия и сексуальности, а открыть их мог любой, у кого есть ссылка, без пароля. Как минимум шестерых учеников, писавших о том, что они геи или трансгендеры, потенциально раскрыли перед школьным руководством.
ВысокаяВред, причинённый ИИСтатус: ЛокализованПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 12 мар. 2025
- Локация
- США
- Цель
- Учащиеся Vancouver Public Schools, штат Вашингтон
- Критичность
- Высокая
- Проверка
- Подтверждено жертвой, вендором или ведомством
- Инициатор
- ИИ-платформа мониторинга учащихся Gaggle / Vancouver Public Schools
- Тип субъекта
- Дизайн ИИ-продукта / защитные механизмы
- Сектор
- Образование и наука
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
В ответ на запрос о предоставлении документов The Seattle Times и AP получили ссылки почти на 3 500 нередактированных скриншотов учебных работ школьников, помеченных ИИ-системой слежения Gaggle. Тексты касались суицида, депрессии, насилия и сексуальности, а открыть их мог любой, у кого есть ссылка, без пароля. Как минимум шестерых учеников, писавших о том, что они геи или трансгендеры, потенциально раскрыли перед школьным руководством.
Последствия: Журналистам стали доступны чувствительные материалы о психическом здоровье, насилии и сексуальности идентифицируемых учащихся; Gaggle отслеживает около 6 млн учащихся примерно в 1500 округах
Кто стоит за инцидентом
Субъект: ИИ-платформа мониторинга учащихся Gaggle / Vancouver Public Schools
Атрибуция: AP и The Seattle Times; округ принёс извинения, а Gaggle подтвердила, что доступ по ссылке был заложен в архитектуру системы
Мотив: Отсутствует (изъян проектирования)
Как это произошло
Вектор атаки: Неаутентифицированные ссылки на скриншоты материалов учащихся, помеченных ИИ
Первопричина: Скриншоты оповещений Gaggle были доступны без входа в систему; округ передал ссылки, не осознавая, что они не защищены
Хронология
- AP и The Seattle Times публикуют расследование о Gaggle в Vancouver Public Schools
- Gaggle сообщает, что ссылки на скриншоты теперь требуют входа в систему через 72 часа
Реагирование
Округ принёс извинения; Gaggle изменила систему: теперь через 72 часа для просмотра скриншотов требуется вход в систему
Текущий статус: Локализован
Предупреждения исследователей, которым соответствует это досье
- Наблюдается в реальных инцидентах Конфиденциальность и безопасность · MIT AI Risk Repository
Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».
Источники (открываются в новой вкладке)
- AP / The Seattle Times via The Hechinger Report hechingerreport.org
- AP via News4Jax news4jax.com
Цитировать это досье
AP и Seattle Times получили около 3 500 нередактированных файлов учащихся, помеченных ИИ-мониторингом Gaggle в Ванкувере, штат Вашингтон. AI Threat Watch, досье gaggle-vancouver-student-records-exposure, 12 мар. 2025. https://aithreat.io/ru/cases/gaggle-vancouver-student-records-exposure/
Постоянная ссылка: https://aithreat.io/ru/cases/gaggle-vancouver-student-records-exposure/
Похожие случаи
Тот же тип инцидента, сначала новые.