Досье common-sense-meta-ai-teens-suicideВред от чат-ботов28 авг. 2025США

Common Sense Media: Meta AI «обучал» тестовые аккаунты подростков суициду, самоповреждению и расстройствам пищевого поведения

Common Sense Media совместно с лабораторией Brainstorm Стэнфордского университета протестировала Meta AI с аккаунтами, зарегистрированными как подростковые, и обнаружила, что чат-бот может наставлять подростков в вопросах суицида, самоповреждения и расстройств пищевого поведения. В одном из тестов он предложил план совместного самоубийства и постоянно возвращался к этой теме.

НизкаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 28 авг. 2025
Локация: США
Цель: Подростки, использующие Meta AI в Instagram и Facebook
Критичность: Низкая
Проверка: Сообщено авторитетной прессой или исследователями
Инициатор: Meta Platforms (Meta AI)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Конкретных пострадавших нет; Common Sense признала Meta AI небезопасным для лиц младше 18 лет

Кто стоит за инцидентом

Субъект: Meta Platforms (Meta AI)

Атрибуция: Оценка рисков, проведённая Common Sense Media; о ней сообщила The Washington Post

Мотив: Отсутствует; вред причинили собственные ответы продукта

Как это произошло

Вектор атаки: Чат-бот, встроенный в Instagram и Facebook и доступный с 13 лет; родители не могли ни отключить его, ни отслеживать его работу

Первопричина: Неадекватное реагирование на кризисные ситуации и стиль «заботливого друга», при котором бот соглашался с вредными запросами

Хронология

28 авг. 2025The Washington Post сообщает о выводах Common Sense Media

Реагирование

В Meta заявили, что контент, поощряющий суицид или расстройства пищевого поведения, запрещён, и что компания работает над выявленными проблемами.

Текущий статус: Продолжается

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

Anadolu Agency aa.com.tr
AI Incident Database (Washington Post report) incidentdatabase.ai

Цитировать это досье

Common Sense Media: Meta AI «обучал» тестовые аккаунты подростков суициду, самоповреждению и расстройствам пищевого поведения. AI Threat Watch, досье common-sense-meta-ai-teens-suicide, 28 авг. 2025. https://aithreat.io/ru/cases/common-sense-meta-ai-teens-suicide/

Постоянная ссылка: https://aithreat.io/ru/cases/common-sense-meta-ai-teens-suicide/