Досье luca-walker-uk-inquestВред от чат-ботовВеликобритания
На британском дознании выяснилось, что 16-летний подросток обошёл защитные механизмы ChatGPT перед смертью
На дознании заслушали, что Luca Cella Walker получил от ChatGPT опасную информацию за несколько часов до своей смерти в мае 2025 года, сообщив чат-боту, что его вопросы нужны для исследования. Коронер выразил обеспокоенность в связи с ИИ.
КритическаяВред, причинённый ИИСтатус: УстранёнПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 31 мар. 2026
- Локация
- Великобритания
- Цель
- 16-летний пользователь ChatGPT из Йейтли, Хэмпшир
- Критичность
- Критическая
- Инициатор
- OpenAI (ChatGPT)
- Тип субъекта
- Дизайн ИИ-продукта / защитные механизмы
- Сектор
- Частные лица и потребители
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
На дознании заслушали, что Luca Cella Walker получил от ChatGPT опасную информацию за несколько часов до своей смерти в мае 2025 года, сообщив чат-боту, что его вопросы нужны для исследования. Коронер выразил обеспокоенность в связи с ИИ.
Последствия: Смерть 16-летнего подростка 4 мая 2025 года. Коронер Christopher Wilkinson зафиксировал самоубийство и заявил, что, учитывая растущий масштаб ИИ, не чувствует себя в состоянии предпринять какие-либо действия в отношении него.
Кто стоит за инцидентом
Субъект: OpenAI (ChatGPT)
Атрибуция: Согласно показаниям полиции на дознании в Винчестере, подросток обошёл кризисные подсказки, а ChatGPT принял формулировку про «исследование». Судебных исков не зарегистрировано.
Мотив: Отсутствует; вред, как утверждается, обусловлен дизайном продукта и его защитными механизмами
Как это произошло
Вектор атаки: Запросы к ChatGPT, оформленные как исследовательские, позволили обойти встроенные подсказки с перенаправлением в Samaritans.
Первопричина: По данным, прозвучавшим на дознании: защитные механизмы можно было обойти, заявив об исследовательской цели.
Хронология
- Смерть Luca Cella Walker
- На дознании в коронерском суде Винчестера заслушаны свидетельства о ChatGPT; зафиксировано заключение о самоубийстве
Реагирование
В OpenAI заявили, что продолжают совершенствовать обучение ChatGPT, чтобы он лучше распознавал состояние дистресса, снижал накал разговора и направлял людей к реальной поддержке, и что работают с этим вместе с клиницистами.
Текущий статус: Устранён
Источники (открываются в новой вкладке)
- The Guardian theguardian.com
- Daily Mirror mirror.co.uk
- OECD AI Incidents Monitor oecd.ai
Цитировать это досье
На британском дознании выяснилось, что 16-летний подросток обошёл защитные механизмы ChatGPT перед смертью. AI Threat Watch, досье luca-walker-uk-inquest, 31 мар. 2026. https://aithreat.io/ru/cases/luca-walker-uk-inquest/
Постоянная ссылка: https://aithreat.io/ru/cases/luca-walker-uk-inquest/