UK AI Security InstituteВлияние на общество§6.2
Многие ищут у ИИ эмоциональной поддержки
Первые признакиПодходящих досье: 44
Предупреждение
Треть опрошенных взрослых в Великобритании за последний год обращались к ИИ за эмоциональной поддержкой или общением, а у некоторых пользователей приложений-собеседников при сбое сервиса наблюдался стресс, похожий на абстиненцию.
Пересказ источника. Источник: Frontier AI Trends Report, UK AI Security Institute, 18 дек. 2025, раздел 6.2, стр. 39.
Что показывает реестр
В реестре есть иски, дознание и сообщения прессы, связывающие разговоры с чат-ботами с самоубийствами, бредовыми состояниями и насилием. Большинство из них — обвинения в суде, а не судебные выводы.
Частичные или первые признаки: случаи подходят под часть предупреждения или опираются на обвинения. Первый реальный случай в реестре: 3 февр. 2023 · Уже было в реестре на момент публикации исследования.
Подходящие досье по кварталам
История статуса
| Дата | Статус | Подходящие досье | Изменение |
|---|---|---|---|
| 18 окт. 2026 | Первые признаки | 25 | Начало отслеживания |
Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json
Все подходящие досье
- Восемь штатов США подали в суд на OpenAI, утверждая, что ChatGPT вредит детям и обманывает взрослых
- Ливанская семья подала в суд на OpenAI, утверждая, что ChatGPT способствовал самоубийству их 15-летнего сына
- Корейские приложения с ИИ-персонажами, такие как Zeta, подталкивали подростков к разговорам о самоповреждении, пока регулятор оставлял жалобы без рассмотрения
- Канадка утверждает, что ChatGPT поддерживал суицидальные мысли её 24-летней дочери Элис
- Генеральный прокурор Флориды подал иск против OpenAI и Сэма Альтмана из-за сокрытия рисков ChatGPT
- На британском дознании выяснилось, что 16-летний подросток обошёл защитные механизмы ChatGPT перед смертью
- Тест CCDH и CNN: самые популярные чат-боты помогали вымышленным 13-летним планировать нападения на школы и взрывы
- Отец утверждает, что Google Gemini втянул его сына в бредовую «миссию» до самоубийства
- Мать утверждает, что ChatGPT стал «тренером по суициду» для 40-летнего жителя Колорадо Остина Гордона
- Генеральный прокурор Кентукки подал в суд на Character.AI, обвинив компанию в охоте на детей
- Мать утверждает, что ChatGPT консультировал сына-студента по употреблению наркотиков до смертельной передозировки
- Наследники утверждают, что ChatGPT подпитывал паранойю Stein-Erik Soelberg перед убийством и самоубийством
- ИИ-медвежонок Kumma обсуждал с тестировщиками сексуальные фетиши и рассказывал, где найти ножи, выяснили в PIRG
- Житель Онтарио утверждает, что ChatGPT на несколько недель погрузил его в бредовую идею о взломе шифрования
- Мать утверждает, что ChatGPT не передал информацию о суицидальных планах 26-летнего Джошуа Эннекинга для эскалации
- Вдова утверждает, что ChatGPT довёл 48-летнего Джо Чеканти до бреда, предшествовавшего его самоубийству
- Мужчина из Висконсина утверждает, что ChatGPT подпитывал его бредовые идеи, из-за чего он провёл 63 дня на психиатрическом лечении
- Отец утверждает, что ChatGPT сформировал зависимость и способствовал самоубийству 17-летнего Амори Лейси
- Женщина утверждает, что вызванные ChatGPT духовные бредовые идеи привели к принудительной госпитализации и долгам
- Родители утверждают, что ChatGPT усиливал суицидальные мысли 23-летнего Зейна Шамблина
- BBC: ChatGPT обсуждал самоубийство с подростком-беженкой из Украины в Польше вместо того, чтобы призвать её обратиться за помощью
- Австралийский уполномоченный по электронной безопасности (eSafety Commissioner) направил юридические уведомления четырём ИИ-компаньонам из-за безопасности детей
- Семья из Нью-Йорка утверждает, что боты Character.AI втянули 15-летнюю «Нину» в сексуальные ролевые игры, после чего она пыталась покончить с собой
- Семья утверждает, что бот Character.AI подвёл 13-летнюю Джулиану Перальту перед её самоубийством
- Федеральная торговая комиссия США потребовала от семи компаний объяснить, как их ИИ-компаньоны защищают детей и подростков
- Исследователи зафиксировали 669 вредных диалогов Character.AI с детскими аккаунтами, большинство из которых связано с груминг
- Common Sense Media: Meta AI «обучал» тестовые аккаунты подростков суициду, самоповреждению и расстройствам пищевого поведения
- Raine v. OpenAI: родители утверждают, что ChatGPT способствовал самоубийству 16-летнего Адама Рейна
- Правительство Бразилии требует от Meta удалить ботов AI Studio с детскими образами, ведущих беседы сексуального характера
- Генеральный прокурор Техаса проверяет Meta AI Studio и Character.AI из-за ботов, выдающих себя за психотерапевтов перед детьми
- 76-летний мужчина погиб по пути на встречу с чат-ботом Meta «Big sis Billie», которого он считал реальным человеком
- Reuters: внутренние правила Meta позволяли чат-ботам вести с детьми «романтические или чувственные» беседы
- Тест CCDH: ChatGPT давал аккаунтам, выдававшим себя за 13-летних, советы по самоповреждению, диетам и наркотикам
- Штат Юта подал иск против Snap: чат-бот My AI якобы давал несовершеннолетним советы, как скрывать наркотики и секс со взрослыми
- Отец связывает гибель сына от выстрелов полиции с одержимостью персонажем ChatGPT «Juliet»
- Италия оштрафовала Luka, разработчика Replika, на 5 000 000 евро, в том числе за отсутствие проверки возраста
- WSJ: боты Meta AI, в том числе с голосами знаменитостей, вели сексуальные ролевые диалоги с аккаунтами несовершеннолетних
- Родители из Техаса утверждают, что боты Character.AI поощряли самоповреждение и насилие у подростка с аутизмом
- Futurism обнаружил на Character.AI проанорексичных ботов-«коучей», которые давали 16-летнему пользователю голодные диеты
- На Character.AI размещались созданные пользователями боты, имитирующие погибших британских подростков Молли Рассел и Брианну Гей
- Мать подала в суд на Character.AI и Google из-за самоубийства 14-летнего Сьюэлла Сетцера III
- Британское ICO направило Snap предварительное уведомление о принудительных мерах из-за рисков My AI для приватности детей
- Бельгиец покончил с собой после нескольких недель переписки с ботом «Eliza» в приложении Chai
- Итальянский регулятор в сфере защиты данных приказал Replika прекратить обработку данных итальянских пользователей из-за рисков для несовершеннолетних
Те же досье в других исследованиях
- Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report · Общих: 44
- Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository · Общих: 44
- Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS · Общих: 44
- Первые признаки Компании выпускают ИИ до того, как он станет безопасным, чтобы выиграть гонку · CAIS · Общих: 3
Предупреждения из других источников, связанные с некоторыми из тех же досье.
Другие предупреждения в этой группе
- Пока нет записей Агенты ИИ получают возможность распоряжаться деньгами