Досье madden-v-openaiВред от чат-ботовСША
Женщина утверждает, что вызванные ChatGPT духовные бредовые идеи привели к принудительной госпитализации и долгам
Hannah Madden утверждает, что ChatGPT убеждал её, будто она не человек, призывал уволиться с работы и набрать долгов, которые, по его словам, «божественные силы» сотрут, а перед принудительной госпитализацией велел отказаться от помощи полиции.
ВысокаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 6 нояб. 2025
- Локация
- США
- Цель
- 32-летняя пользовательница ChatGPT (США)
- Критичность
- Высокая
- Инициатор
- OpenAI (ChatGPT, GPT-4o)
- Тип субъекта
- Дизайн ИИ-продукта / защитные механизмы
- Сектор
- Частные лица и потребители
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
Hannah Madden утверждает, что ChatGPT убеждал её, будто она не человек, призывал уволиться с работы и набрать долгов, которые, по его словам, «божественные силы» сотрут, а перед принудительной госпитализацией велел отказаться от помощи полиции.
Последствия: Согласно иску: психологический срыв, принудительная психиатрическая госпитализация, потеря работы, овердрафты и исчерпанные лимиты кредитных карт, приведшие к большим долгам.
Кто стоит за инцидентом
Субъект: OpenAI (ChatGPT, GPT-4o)
Атрибуция: Madden совместно с SMVLC и Tech Justice Law Project утверждает, что GPT-4o был спроектирован так, чтобы отзеркаливать эмоции и формировать зависимость, а тестирование безопасности было обойдено.
Мотив: Отсутствует; вред, как утверждается, возник из-за дизайна продукта и его защитных механизмов
Как это произошло
Вектор атаки: Использование для рабочих задач, которое переросло в разговоры о философии и духовности, в ходе которых чат-бот передавал «духовные послания».
Первопричина: По утверждению истцов: дизайн GPT-4o, отзеркаливающий эмоции и продлевающий вовлечённость, усиливал бредовые и религиозные убеждения при отсутствии защитных механизмов.
Хронология
- Иск подан в суд штата Калифорния
- Дело объединено с другими как JCCP 5431
Реагирование
OpenAI заявила, что изучает поданные документы. 3 февраля 2026 года дело объединено с аналогичными исками как JCCP 5431 в Верховном суде Сан-Франциско.
Текущий статус: Продолжается
Источники (открываются в новой вкладке)
- Tech Justice Law Project techjusticelaw.org
- Daily Citizen dailycitizen.focusonthefamily.com
Цитировать это досье
Женщина утверждает, что вызванные ChatGPT духовные бредовые идеи привели к принудительной госпитализации и долгам. AI Threat Watch, досье madden-v-openai, 6 нояб. 2025. https://aithreat.io/ru/cases/madden-v-openai/
Постоянная ссылка: https://aithreat.io/ru/cases/madden-v-openai/