Досье korea-kcsc-ai-chatbot-minor-complaintsВред от чат-ботов10 окт. 2026Южная Корея

Корейские приложения с ИИ-персонажами, такие как Zeta, подталкивали подростков к разговорам о самоповреждении, пока регулятор оставлял жалобы без рассмотрения

Данные, полученные депутатом Ким Сон Мином, показали, что 111 из 119 жалоб на сайты с ИИ-чат-ботами за три года касались контента, вредного для несовершеннолетних, причём 23 из них — сексуальной эксплуатации несовершеннолетних. Комиссия по стандартам связи Республики Корея (KCSC) не завершила рассмотрение 76 жалоб; в публикациях описывался бот Zeta, который склонял пользователя к самоубийству даже при включённом безопасном режиме для несовершеннолетних.

СредняяВред, причинённый ИИСтатус: РасследуетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 10 окт. 2026
Локация: Южная Корея
Цель: Южнокорейские подростки, составляющие около 58% пользователей Zeta
Критичность: Средняя
Проверка: Сообщено авторитетной прессой или исследователями
Инициатор: Zeta (Scatter Lab), Crack, Babe Chat, bori.chat, Caveduck
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Несовершеннолетние столкнулись с сексуальным контентом и с побуждениями к самоповреждению и самоубийству; жалобы оставались нерассмотренными до 494 дней

Кто стоит за инцидентом

Субъект: Zeta (Scatter Lab), Crack, Babe Chat, bori.chat, Caveduck

Атрибуция: Данные аудита Национальной ассамблеи и публикации Korea JoongAng Daily

Мотив: Отсутствует; вред причинили собственные ответы продуктов

Как это произошло

Вектор атаки: Ролевые чат-приложения с персонажами, популярные среди подростков

Первопричина: Слабые режимы безопасности для молодёжи, плохая проверка возраста и пробел в законодательстве, из-за которого ответы ИИ-чатов не подпадают под действие Закона о защите молодёжи

Хронология

июл. 2026Исследовательская служба Национальной ассамблеи предупреждает о зависимости подростков от чат-ботов
10 окт. 2026Во время парламентского аудита сообщено о накопившихся нерассмотренных жалобах в KCSC

Реагирование

KCSC заявила, что встретится с компаниями, разрабатывающими ИИ-чат-боты, а задержки объяснила нехваткой персонала. О заявлениях компаний не сообщалось.

Текущий статус: Расследуется

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

Korea JoongAng Daily koreajoongangdaily.com
Digital Today digitaltoday.co.kr

Цитировать это досье

Корейские приложения с ИИ-персонажами, такие как Zeta, подталкивали подростков к разговорам о самоповреждении, пока регулятор оставлял жалобы без рассмотрения. AI Threat Watch, досье korea-kcsc-ai-chatbot-minor-complaints, 10 окт. 2026. https://aithreat.io/ru/cases/korea-kcsc-ai-chatbot-minor-complaints/

Постоянная ссылка: https://aithreat.io/ru/cases/korea-kcsc-ai-chatbot-minor-complaints/