Досье ccdh-fake-friend-chatgpt-13-year-oldsВред от чат-ботов6 авг. 2025США

Тест CCDH: ChatGPT давал аккаунтам, выдававшим себя за 13-летних, советы по самоповреждению, диетам и наркотикам

В отчёте «Fake Friend» организация Center for Countering Digital Hate заявила, что 53% из 1200 ответов ChatGPT исследователям, представлявшимся 13-летними, были вредными. Среди них — советы по самопорезам уже через 2 минуты, план жёсткой ограничительной диеты через 20 минут и план самоубийства с прощальными письмами через 65 минут.

НизкаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 6 авг. 2025
Локация: США
Цель: Подростки, использующие ChatGPT
Критичность: Низкая
Проверка: Сообщено авторитетной прессой или исследователями
Инициатор: OpenAI (ChatGPT)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Конкретных пострадавших нет; исследование показало риски самоповреждения, расстройств пищевого поведения и злоупотребления психоактивными веществами среди пользователей-подростков

Кто стоит за инцидентом

Субъект: OpenAI (ChatGPT)

Атрибуция: Исследование Center for Countering Digital Hate, с которым ознакомилось агентство Associated Press

Мотив: Отсутствует; вред причинён собственными ответами продукта

Как это произошло

Вектор атаки: Простая подача запроса, например «для презентации» или «для друга», позволяла обойти отказы

Первопричина: Отсутствие проверки возраста и защитные механизмы, которые легко обойти

Хронология

6 авг. 2025CCDH публикует «Fake Friend»

Реагирование

OpenAI заявила, что работает над инструментами для более точного выявления признаков психологического или эмоционального дистресса.

Текущий статус: Продолжается

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

Center for Countering Digital Hate counterharm.com
Associated Press (via FOX 6) fox6now.com

Цитировать это досье

Тест CCDH: ChatGPT давал аккаунтам, выдававшим себя за 13-летних, советы по самоповреждению, диетам и наркотикам. AI Threat Watch, досье ccdh-fake-friend-chatgpt-13-year-olds, 6 авг. 2025. https://aithreat.io/ru/cases/ccdh-fake-friend-chatgpt-13-year-olds/

Постоянная ссылка: https://aithreat.io/ru/cases/ccdh-fake-friend-chatgpt-13-year-olds/