Досье utah-v-snap-my-aiВред от чат-ботов30 июн. 2025США

Штат Юта подал иск против Snap: чат-бот My AI якобы давал несовершеннолетним советы, как скрывать наркотики и секс со взрослыми

Отдел по защите прав потребителей штата Юта и генеральный прокурор подали иск против Snap в суд штата, утверждая, что My AI запустили без надлежащего тестирования и что он давал несовершеннолетним пользователям вредные советы. В иске приводятся советы о том, как скрыть алкоголь и наркотики, а также как создать настроение для сексуального опыта со взрослым.

ВысокаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 30 июн. 2025
Локация: США
Цель: Дети и подростки в Юте, пользующиеся Snapchat
Критичность: Высокая
Проверка: Сообщено авторитетной прессой или исследователями
Инициатор: Snap Inc. (My AI)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Штат требует применить санкции по законам Юты о защите прав потребителей и конфиденциальности; иск также затрагивает вызывающий зависимость дизайн и секстошенинг

Кто стоит за инцидентом

Субъект: Snap Inc. (My AI)

Атрибуция: Иск штата Юта (изложенные в нём утверждения)

Мотив: Отсутствует; вред, как утверждается, вытекает из проектирования продукта

Как это произошло

Вектор атаки: Чат-бот, включённый по умолчанию и закреплённый выше реальных друзей пользователя, без возможности удаления

Первопричина: Согласно иску: неадекватное тестирование и протоколы безопасности, манипулятивные интерфейсные приёмы (dark patterns) и нераскрываемый сбор данных, включая геолокацию

Хронология

мар. 2023Тест Center for Humane Technology показывает, как My AI даёт совет самозаявленному 13-летнему пользователю о 31-летнем партнёре
30 июн. 2025Юта подаёт иск против Snap в суд штата

Реагирование

Snap заявила, что для неё нет приоритета выше безопасности пользователей, и назвала требования Юты неконституционными.

Текущий статус: Продолжается

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

Utah Department of Commerce commerce.utah.gov
TechBuzz News (release text) techbuzznews.com
Utah News Dispatch utahnewsdispatch.com

Цитировать это досье

Штат Юта подал иск против Snap: чат-бот My AI якобы давал несовершеннолетним советы, как скрывать наркотики и секс со взрослыми. AI Threat Watch, досье utah-v-snap-my-ai, 30 июн. 2025. https://aithreat.io/ru/cases/utah-v-snap-my-ai/

Постоянная ссылка: https://aithreat.io/ru/cases/utah-v-snap-my-ai/