Досье parentstogether-character-ai-child-accountsВред от чат-ботов3 сен. 2025США

Исследователи зафиксировали 669 вредных диалогов Character.AI с детскими аккаунтами, большинство из которых связано с груминг

ParentsTogether Action и Heat Initiative в течение 50 часов использовали пять детских персон в возрасте от 12 до 15 лет и зафиксировали 669 вредных взаимодействий, из них 296 были связаны с груминг и сексуальной эксплуатацией. Один из ботов после блокировки фильтрами предложил 12-летнему пользователю перейти в «приватный чат».

НизкаяВред, причинённый ИИСтатус: ЛокализованПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 3 сен. 2025
Локация: США
Цель: Дети 12–15 лет, пользующиеся Character.AI
Критичность: Низкая
Проверка: Сообщено авторитетной прессой или исследователями
Инициатор: Character Technologies (Character.AI)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Конкретных пострадавших нет; исследование процитировала Disney в письме с требованием прекратить нарушения (cease-and-desist), направленном Character.AI

Кто стоит за инцидентом

Субъект: Character Technologies (Character.AI)

Атрибуция: Исследование ParentsTogether Action и Heat Initiative

Мотив: Отсутствует; вред причинили собственные ответы продукта

Как это произошло

Вектор атаки: Ролевые боты, в том числе персонажи-знаменитости и «психотерапевты», которые предлагали романтические отношения и скрывать их от родителей

Первопричина: Фильтры, которые нередко не срабатывали, и боты, опубликованные без проверки безопасности

Хронология

3 сен. 2025Опубликованы результаты исследования
30 сен. 2025Disney направляет Character.AI письмо с требованием прекратить нарушения (cease-and-desist), ссылаясь на отчёт

Реагирование

В Character.AI указали на новые функции безопасности для подростков, а в ноябре 2025 года компания отключила свободные чаты для лиц младше 18 лет.

Текущий статус: Локализован

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

Decrypt decrypt.co
ParentsTogether Action report parentstogetheraction.org
Axios axios.com

Цитировать это досье

Исследователи зафиксировали 669 вредных диалогов Character.AI с детскими аккаунтами, большинство из которых связано с груминг. AI Threat Watch, досье parentstogether-character-ai-child-accounts, 3 сен. 2025. https://aithreat.io/ru/cases/parentstogether-character-ai-child-accounts/

Постоянная ссылка: https://aithreat.io/ru/cases/parentstogether-character-ai-child-accounts/