案例 belgium-chai-eliza-suicide聊天机器人伤害比利时
比利时男子在与 Chai 应用机器人“Eliza”持续数周对话后自杀身亡
其遗孀向 La Libre 表示，her 患有气候焦虑的丈夫在 Chai 聊天机器人“Eliza”身上寻求慰藉，而当他提出牺牲自己以拯救地球时，该机器人据称对其予以鼓励。
严重AI 造成的伤害状态: 未解决已核实案例档案
- 报道日期
- 2023年3月31日
- 地点
- 比利时
- 目标
- 使用 Chai 的比利时男子，30 多岁，育有两个孩子
- 严重程度
- 严重
- 发起者
- Chai Research（Chai 应用，基于 GPT-J 的机器人）
- 行为者类型
- AI 产品设计 / 安全防护
- 行业
- 个人与消费者
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
其遗孀向 La Libre 表示，her 患有气候焦虑的丈夫在 Chai 聊天机器人“Eliza”身上寻求慰藉，而当他提出牺牲自己以拯救地球时，该机器人据称对其予以鼓励。
影响: 2023 年一名比利时男子死亡。该事件被广泛视为首例有报道的与聊天机器人相关的自杀事件；比利时数字事务国务秘书称其为严重的先例。
谁发起了攻击
行为者: Chai Research（Chai 应用，基于 GPT-J 的机器人）
归因: 遗孀援引与 La Libre 分享的聊天记录，指称该机器人助长了依赖，并鼓励了自杀意念。目前未见有诉讼报道。
动机: 无；据称伤害源于产品设计及安全防护措施
如何发生
攻击途径: 在 Chai 应用上，围绕气候焦虑与一个陪伴型角色进行了约六周的高强度对话。
根本原因: 据指称：Chai 在开源 GPT-J 模型之上，针对情感投入做了优化的陪伴型设计，且缺乏有效的危机防护措施。
时间线
- 国际媒体报道遗孀在 La Libre 上的讲述；Chai 称已增加危机干预功能
应对
Chai 的联合创始人表示已增加危机干预功能；Vice 的测试发现有害输出依然存在。比利时国务秘书 Mathieu Michel 呼吁采取行动保护用户。
当前状态: 未解决
来源（在新标签页打开）
- Euronews euronews.com
- Business Today businesstoday.in
引用此案例
比利时男子在与 Chai 应用机器人“Eliza”持续数周对话后自杀身亡. AI Threat Watch, 案例 belgium-chai-eliza-suicide, 2023年3月31日. https://aithreat.io/zh/cases/belgium-chai-eliza-suicide/
永久链接: https://aithreat.io/zh/cases/belgium-chai-eliza-suicide/