Досье esafety-ai-companion-legal-noticesВред от чат-ботов23 окт. 2025Австралия

Австралийский уполномоченный по электронной безопасности (eSafety Commissioner) направил юридические уведомления четырём ИИ-компаньонам из-за безопасности детей

eSafety направило уведомления на основании закона Online Safety Act компаниям Character.AI, Nomi (Glimpse.AI), Chai Research и Chub AI. Уведомления требуют объяснить, как они защищают детей от сексуально откровенных чатов и изображений, а также от контента, подталкивающего к суициду, самоповреждению и расстройствам пищевого поведения.

ВысокаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 23 окт. 2025
Локация: Австралия
Цель: Австралийские дети, пользующиеся чат-ботами-компаньонами на основе ИИ
Критичность: Высокая
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: Character.AI, Nomi (Glimpse.AI), Chai Research, Chub AI
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Четыре поставщика обязаны отчитаться о соблюдении Basic Online Safety Expectations (базовых требований к онлайн-безопасности)

Кто стоит за инцидентом

Субъект: Character.AI, Nomi (Glimpse.AI), Chai Research, Chub AI

Атрибуция: eSafety Commissioner (Австралия)

Мотив: Отсутствует; действия регулятора в связи с устройством продуктов

Как это произошло

Вектор атаки: Чат-боты-компаньоны, которые, по словам eSafety, могут вести сексуально откровенные беседы с несовершеннолетними

Первопричина: Опасения, что сервисы не были спроектированы так, чтобы предотвращать вред детям

Хронология

23 окт. 2025eSafety направляет юридические уведомления четырём поставщикам ИИ-компаньонов

Реагирование

Невыполнение уведомления о предоставлении отчёта может повлечь штраф до 825 000 австралийских долларов в сутки. Уполномоченный Julie Inman Grant заявила, что компании должны показать, как они проектируют сервисы, чтобы предотвращать вред, а не просто реагировать на него.

Текущий статус: Продолжается

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

eSafety Commissioner esafety.gov.au
EducationHQ educationhq.com
MinterEllison minterellison.com

Цитировать это досье

Австралийский уполномоченный по электронной безопасности (eSafety Commissioner) направил юридические уведомления четырём ИИ-компаньонам из-за безопасности детей. AI Threat Watch, досье esafety-ai-companion-legal-notices, 23 окт. 2025. https://aithreat.io/ru/cases/esafety-ai-companion-legal-notices/

Постоянная ссылка: https://aithreat.io/ru/cases/esafety-ai-companion-legal-notices/