组织风险Center for AI Safety§4

强大的 AI 被泄露或窃取

已在真实事件中出现11 份相符的案例档案

警告内容

AI 模型可能被意外泄露，或被国家、行业或犯罪行为体窃取，这正是 AI 开发者需要最先进信息安全的原因。

改写自论文。来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 4 节，第 34 页.

登记库显示的情况

模型权重尚未有公开报道的失窃，但泄露的密钥暴露了私有模型，外部人员访问了受限模型，源代码被意外发布，AI 公司还指控对手通过大量查询复制模型能力。

已核实的案例档案显示，这一风险已在现实世界中发生。档案中最早的真实案例：2025年1月29日.

每季度相符的案例档案

状态历史

日期	状态	匹配的案例档案	变化
2026年10月18日	已在真实事件中出现	11	开始跟踪

自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json

所有相符的案例档案

2026年9月10日GTG-16005：Anthropic称阿里巴巴以1.51亿次交互蒸馏Claude训练Qwen
2026年9月10日GTG-16006：智谱被指通过273个账户对Claude Opus进行网络安全导向蒸馏
2026年9月10日GTG-16008：小米通过1500个账户将MiMo用户会话重放至Claude
2026年5月14日OpenAI确认两台员工设备和源码仓库在Mini Shai-Hulud npm蠕虫中被攻破
2026年4月21日未授权团体经供应商访问Anthropic受限的Claude Mythos模型
2026年4月3日被投毒的LiteLLM版本牵出Mercor泄露事件，AI实验室训练机密暴露
2026年3月31日Claude Code源码映射泄露后，假'泄露'仓库夹带恶意软件
2026年2月23日Anthropic指控DeepSeek、Moonshot和MiniMax用2.4万账户蒸馏Claude
2025年7月14日DOGE职员Marko Elez泄露xAI API密钥，可访问52个Grok模型
2025年5月1日xAI员工在GitHub泄露API密钥，60个私有Grok模型暴露两个月
2025年1月29日OpenAI称有证据表明DeepSeek通过被封禁的API账户蒸馏其模型

该组中的其他警告

已在真实事件中出现 AI 事故难以避免
已在真实事件中出现 AI 开发者自己的安全措施失效

研究 vs 现实 →

匹配方式：当某份案例档案中发生的事情是论文所述风险在现实世界中的实例时，编辑会根据档案中的事实判断，将其与相应警告关联。匹配意味着案例符合该警告，而不是证明了论文的更广泛论点。诉讼中的指控一律标明为指控。状态由编辑判定，并随新案例出现而复核。每次更新时都会重新计算匹配结果。数据：本登记库的系统性收录始于2025年，因此首个案例的日期表示登记库首次记录该风险的时间，而非该风险首次发生的时间。 research.json（CC BY 4.0）