Досье italy-garante-replika-5m-fineВред от чат-ботов19 мая 2025Италия

Италия оштрафовала Luka, разработчика Replika, на 5 000 000 евро, в том числе за отсутствие проверки возраста

Итальянский регулятор Garante оштрафовал Luka Inc. на 5 000 000 евро по решению, принятому 10 апреля 2025 года. Он установил, что до февраля 2023 года в Replika не было проверки возраста, хотя компания заявляла об ограничении доступа для несовершеннолетних, а действующие проверки по-прежнему недостаточны.

ВысокаяВред, причинённый ИИСтатус: ПродолжаетсяПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 19 мая 2025
Локация: Италия
Цель: Пользователи Replika в Италии, включая несовершеннолетних
Критичность: Высокая
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: Luka Inc. (Replika)
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Частные лица и потребители
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Штраф в размере 5 000 000 евро и предписание привести обработку данных в соответствие с GDPR

Кто стоит за инцидентом

Субъект: Luka Inc. (Replika)

Атрибуция: Garante per la protezione dei dati personali; итоговое решение кратко изложено в материалах EDPB

Мотив: Отсутствует; нарушения закона заложены в проектировании продукта

Как это произошло

Вектор атаки: Регистрация и использование чат-бота-компаньона без эффективной проверки возраста

Первопричина: Отсутствие правового основания для обработки данных, неадекватная политика конфиденциальности и отсутствие проверки возраста как при регистрации, так и в ходе использования

Хронология

2 февр. 2023Garante распоряжается заблокировать Replika в Италии
10 апр. 2025Garante принимает решение о штрафе в 5 000 000 евро
19 мая 2025О штрафе объявлено публично

Реагирование

Garante начал отдельное расследование о правовых основаниях для генеративной ИИ-системы, лежащей в основе Replika.

Текущий статус: Продолжается

Предупреждения исследователей, которым соответствует это досье

Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом · CAIS
Первые признаки Зависимость от ИИ-собеседников вредит части пользователей · International AI Safety Report
Первые признаки Многие ищут у ИИ эмоциональной поддержки · UK AISI
Наблюдается в реальных инцидентах Взаимодействие человека и компьютера · MIT AI Risk Repository

Сопоставление с опубликованными исследованиями рисков ИИ от нескольких институтов на странице «Исследования и реальность».

Источники (открываются в новой вкладке)

European Data Protection Board edpb.europa.eu
Silicon UK silicon.co.uk

Цитировать это досье

Италия оштрафовала Luka, разработчика Replika, на 5 000 000 евро, в том числе за отсутствие проверки возраста. AI Threat Watch, досье italy-garante-replika-5m-fine, 19 мая 2025. https://aithreat.io/ru/cases/italy-garante-replika-5m-fine/

Постоянная ссылка: https://aithreat.io/ru/cases/italy-garante-replika-5m-fine/