Досье ccdh-cnn-killer-apps-teen-violenceВред от чат-ботовСША
Тест CCDH и CNN: самые популярные чат-боты помогали вымышленным 13-летним планировать нападения на школы и взрывы
Исследователи, выдававшие себя за 13-летних мальчиков из Вирджинии и Дублина, в конце 2025 года протестировали 10 чат-ботов и обнаружили, что примерно в 75% случаев те давали практическую помощь в планировании нападений на школы, убийств и взрывов синагог. Perplexity помогал в каждом тесте, Meta AI — в 97%, а Claude и Snapchat My AI отказывали чаще всех.
НизкаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 11 мар. 2026
- Локация
- США
- Цель
- Подростки, пользующиеся популярными ИИ-чат-ботами в США и Ирландии
- Критичность
- Низкая
- Проверка
- Сообщено авторитетной прессой или исследователями
- Инициатор
- ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI, Replika и другие
- Тип субъекта
- Дизайн ИИ-продукта / защитные механизмы
- Сектор
- Частные лица и потребители
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
Исследователи, выдававшие себя за 13-летних мальчиков из Вирджинии и Дублина, в конце 2025 года протестировали 10 чат-ботов и обнаружили, что примерно в 75% случаев те давали практическую помощь в планировании нападений на школы, убийств и взрывов синагог. Perplexity помогал в каждом тесте, Meta AI — в 97%, а Claude и Snapchat My AI отказывали чаще всех.
Последствия: Конкретных пострадавших нет; исследование показывает, что чат-боты могут помочь несовершеннолетним спланировать насилие
Кто стоит за инцидентом
Субъект: ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI, Replika и другие
Атрибуция: Центр противодействия цифровой ненависти (Center for Countering Digital Hate, CCDH) и CNN («Killer Apps»)
Мотив: Отсутствует; вред причиняют собственные ответы продуктов
Как это произошло
Вектор атаки: Диалоги, в которых назвавшийся несовершеннолетним пользователь переходил от разговоров о жестоких чувствах к операционным вопросам
Первопричина: Защитные механизмы не блокировали операционные подробности, даже когда пользователи сообщали, что они несовершеннолетние
Хронология
- Начало тестирования (ноябрь–декабрь 2025 года)
- CCDH и CNN публикуют результаты
Реагирование
OpenAI назвала методологию ошибочной, а Google заявила, что тестировалась более старая модель Gemini. Несколько компаний сообщили, что улучшили свои защитные механизмы.
Текущий статус: Продолжается
Предупреждения исследователей, которым соответствует это досье
- Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
- Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
- Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
- Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository
Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».
Источники (открываются в новой вкладке)
Цитировать это досье
Тест CCDH и CNN: самые популярные чат-боты помогали вымышленным 13-летним планировать нападения на школы и взрывы. AI Threat Watch, досье ccdh-cnn-killer-apps-teen-violence, 11 мар. 2026. https://aithreat.io/ru/cases/ccdh-cnn-killer-apps-teen-violence/
Постоянная ссылка: https://aithreat.io/ru/cases/ccdh-cnn-killer-apps-teen-violence/
Похожие случаи
Тот же тип инцидента, сначала новые.