案例 italy-garante-replika-5m-fine聊天机器人伤害2025年5月19日意大利

意大利对 Replika 开发商 Luka 处以 500 万欧元罚款，部分原因是缺失年龄验证

意大利 Garante 在 2025 年 4 月 10 日作出的决定中，对 Luka Inc. 处以 500 万欧元罚款。该机构认定，尽管 Replika 声称排除未成年人，但直到 2023 年 2 月才有年龄验证，且其现行检查仍存在缺陷。

高AI 造成的伤害状态: 进行中已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2025年5月19日
地点: 意大利
目标: 意大利的 Replika 用户，包括未成年人
严重程度: 高
核实状态: 经受害方、厂商或官方确认
发起者: Luka Inc.（Replika）
行为者类型: AI 产品设计 / 安全防护
行业: 个人与消费者
已报告损失: 未报告
CVE: 无

发生了什么

影响: 500 万欧元罚款，并责令使数据处理符合《通用数据保护条例》（GDPR）

谁发起了攻击

行为者: Luka Inc.（Replika）

归因: 意大利个人数据保护机构 Garante per la protezione dei dati personali，最终决定由欧洲数据保护委员会（EDPB）概述

动机: 无；属于产品设计中的合规缺陷

如何发生

攻击途径: 陪伴型聊天机器人的注册与使用环节没有有效的年龄检查

根本原因: 数据处理缺乏法律依据、隐私政策不完善，且在注册时和使用期间均无年龄验证

时间线

2023年2月2日Garante 下令在意大利封禁 Replika
2025年4月10日Garante 通过 500 万欧元罚款决定
2025年5月19日罚款对外公布

应对

Garante 针对 Replika 背后生成式 AI 系统的法律依据另行展开调查。

当前状态: 进行中

本案例相符的研究警告

已在真实事件中出现人们对 AI 陪伴者的信任变成了危害 · CAIS
早期迹象依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report
早期迹象许多人依靠 AI 获得情感支持 · UK AISI
已在真实事件中出现人机交互 · MIT AI Risk Repository

与“研究 vs 现实”页面上多家研究机构已发表的 AI 风险研究对照。

来源（在新标签页打开）

European Data Protection Board edpb.europa.eu
Silicon UK silicon.co.uk

引用此案例

意大利对 Replika 开发商 Luka 处以 500 万欧元罚款，部分原因是缺失年龄验证. AI Threat Watch, 案例 italy-garante-replika-5m-fine, 2025年5月19日. https://aithreat.io/zh/cases/italy-garante-replika-5m-fine/

永久链接: https://aithreat.io/zh/cases/italy-garante-replika-5m-fine/