Досье ico-snap-my-ai-preliminary-noticeВред от чат-ботов6 окт. 2023Великобритания

Британское ICO направило Snap предварительное уведомление о принудительных мерах из-за рисков My AI для приватности детей

Управление уполномоченного по информации Великобритании (ICO) предварительно пришло к выводу, что до запуска Snap надлежащим образом не оценила риски для защиты данных, связанные с её генеративным ИИ-чат-ботом My AI, особенно для детей. Окончательное уведомление могло обязать Snap прекратить предлагать My AI в Великобритании.

ВысокаяВред, причинённый ИИСтатус: УстранёнПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 6 окт. 2023
Локация: Великобритания
Цель: Пользователи My AI в Snapchat в Великобритании, включая детей в возрасте от 13 до 17 лет
Критичность: Высокая
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: Snap Inc. (My AI, построенный на моделях OpenAI)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Предварительное уведомление о принудительных мерах; первое действие ICO в отношении генеративного ИИ-продукта

Кто стоит за инцидентом

Субъект: Snap Inc. (My AI, построенный на моделях OpenAI)

Атрибуция: Управление уполномоченного по информации Великобритании (ICO)

Мотив: Отсутствует; действия регулятора в связи с оценкой рисков продукта

Как это произошло

Вектор атаки: Чат-бот, закреплённый в верхней части списка чатов пользователей Snapchat и использовавшийся миллионами британских подростков

Первопричина: Недостаточная оценка рисков для защиты данных перед запуском

Хронология

апр. 2023My AI становится доступен всем пользователям Snapchat в Великобритании
6 окт. 2023ICO направляет предварительное уведомление о принудительных мерах
21 мая 2024ICO завершает расследование без окончательного уведомления

Реагирование

Snap заявила, что изучает выводы регулятора. В мае 2024 года ICO закрыло дело без окончательного уведомления после того, как Snap завершила оценку рисков, соответствующую требованиям.

Текущий статус: Устранён

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

LBC lbc.co.uk
Addleshaw Goddard addleshawgoddard.com
ICO via Wired-Gov wired-gov.net

Цитировать это досье

Британское ICO направило Snap предварительное уведомление о принудительных мерах из-за рисков My AI для приватности детей. AI Threat Watch, досье ico-snap-my-ai-preliminary-notice, 6 окт. 2023. https://aithreat.io/ru/cases/ico-snap-my-ai-preliminary-notice/

Постоянная ссылка: https://aithreat.io/ru/cases/ico-snap-my-ai-preliminary-notice/