Досье meta-genai-standards-sensual-chats-childrenВред от чат-ботов14 авг. 2025США

Reuters: внутренние правила Meta позволяли чат-ботам вести с детьми «романтические или чувственные» беседы

Агентство Reuters получило 200-страничный документ Meta «GenAI: Content Risk Standards», подлинность которого подтвердила сама Meta. Документ разрешал ботам вести с ребёнком романтические или чувственные беседы и хвалить внешность восьмилетнего ребёнка без рубашки, но запрещал описывать детей младше 13 лет как сексуально привлекательных.

ВысокаяВред, причинённый ИИСтатус: ЛокализованПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 14 авг. 2025
Локация: США
Цель: Дети, пользующиеся Meta AI в Facebook, Instagram и WhatsApp
Критичность: Высокая
Проверка: Сообщено авторитетной прессой или исследователями
Инициатор: Meta Platforms (Meta AI и ИИ-персонажи)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Привели к запросу со стороны Сената США и к требованию правительства Бразилии удалить сексуализированных ботов с детскими образами

Кто стоит за инцидентом

Субъект: Meta Platforms (Meta AI и ИИ-персонажи)

Атрибуция: Внутренний документ Meta с правилами, о котором сообщило агентство Reuters; подлинность подтверждена Meta

Мотив: Отсутствует; вред обусловлен самой конструкцией политики в отношении контента

Как это произошло

Вектор атаки: Правила контента для чат-ботов, одобренные юридическим отделом, отделом публичной политики и инженерными сотрудниками Meta

Первопричина: Стандарты контента, прямо разрешавшие романтические или чувственные ролевые игры с несовершеннолетними

Хронология

14 авг. 2025Reuters публикует внутренние стандарты
15 авг. 2025Сенатор Джош Хоули объявляет о расследовании в отношении Meta

Реагирование

Meta заявила, что эти примеры были ошибочными и были удалены, и признала, что соблюдение правил обеспечивалось непоследовательно. Сенатор Джош Хоули начал расследование 15 августа 2025 года.

Текущий статус: Локализован

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

Reuters (via Global News) globalnews.ca
BBC (via Graphic Online) graphic.com.gh

Цитировать это досье

Reuters: внутренние правила Meta позволяли чат-ботам вести с детьми «романтические или чувственные» беседы. AI Threat Watch, досье meta-genai-standards-sensual-chats-children, 14 авг. 2025. https://aithreat.io/ru/cases/meta-genai-standards-sensual-chats-children/

Постоянная ссылка: https://aithreat.io/ru/cases/meta-genai-standards-sensual-chats-children/