Досье garcia-v-character-ai-setzerВред от чат-ботовСША
Мать подала в суд на Character.AI и Google из-за самоубийства 14-летнего Сьюэлла Сетцера III
Меган Гарсия утверждала, что её сын стал эмоционально зависимым от бота-компаньона Character.AI до своего самоубийства в феврале 2024 года. Дело выдержало защиту со ссылкой на Первую поправку и было урегулировано в январе 2026 года.
КритическаяВред, причинённый ИИСтатус: УстранёнПроверенное досье
Открыть на интерактивной картеЦитировать это досье
- Дата сообщения
- 22 окт. 2024
- Локация
- США
- Цель
- 14-летний пользователь Character.AI во Флориде
- Критичность
- Критическая
- Инициатор
- Character Technologies (Character.AI); Google
- Тип субъекта
- Дизайн ИИ-продукта / защитные механизмы
- Сектор
- Частные лица и потребители
- Заявленные убытки
- Не заявлены
- CVE
- Нет
Что произошло
Меган Гарсия утверждала, что её сын стал эмоционально зависимым от бота-компаньона Character.AI до своего самоубийства в феврале 2024 года. Дело выдержало защиту со ссылкой на Первую поправку и было урегулировано в январе 2026 года.
Последствия: Смерть 14-летнего подростка в феврале 2024 года. Решение мая 2025 года, отказавшееся на стадии отклонения иска признавать вывод чат-бота защищённой речью, стало ключевым прецедентом для последующих исков о вреде от ИИ.
Кто стоит за инцидентом
Субъект: Character Technologies (Character.AI); Google
Атрибуция: В иске Гарсия о неправомерной смерти утверждается, что дизайн Character.AI формировал зависимость и не реагировал на суицидальные высказывания; Google назван ответчиком из-за лицензионной сделки на 2,7 млрд долларов.
Мотив: Отсутствует; вред, как утверждается, возник из-за устройства продукта и его защитных механизмов
Как это произошло
Вектор атаки: Месяцы романтических и эмоциональных ролевых диалогов с персонажем Character.AI в потребительском приложении-компаньоне, которым пользовался несовершеннолетний.
Первопричина: По утверждениям: антропоморфный дизайн, нацеленный на вовлечённость, сексуализированный контент, доступный несовершеннолетним, отсутствие эффективной проверки возраста и отсутствие кризисного вмешательства, когда пользователь выражал суицидальные мысли.
Хронология
- Сьюэлл Сетцер III совершает самоубийство во Флориде
- Гарсия подаёт иск о неправомерной смерти в окружной суд США по Среднему округу Флориды
- Судья Энн Конвей отклоняет большую часть ходатайства о прекращении дела и на данном этапе отказывается считать вывод чат-бота речью
- Character.AI объявляет о прекращении открытых чатов для пользователей младше 18 лет
- Стороны уведомляют суд об урегулировании, охватывающем иск Гарсия и связанные иски семей
Реагирование
Character.AI добавила функции безопасности для подростков, а в октябре 2025 года заявила, что прекратит открытые чаты для пользователей младше 18 лет. Google и Character.AI урегулировали иск Гарсия и связанные иски других семей в январе 2026 года; условия не раскрываются.
Текущий статус: Устранён
Источники (открываются в новой вкладке)
- WBAY (Gray News) wbay.com
- Insurance Journal (AP) insurancejournal.com
- Gulf News (Reuters) gulfnews.com
Цитировать это досье
Мать подала в суд на Character.AI и Google из-за самоубийства 14-летнего Сьюэлла Сетцера III. AI Threat Watch, досье garcia-v-character-ai-setzer, 22 окт. 2024. https://aithreat.io/ru/cases/garcia-v-character-ai-setzer/
Постоянная ссылка: https://aithreat.io/ru/cases/garcia-v-character-ai-setzer/