趋势与统计:案例档案揭示了什么
基于本站全部已核实案例档案得出的趋势,每次登记库更新时重新计算。图表衡量的是公开报道且符合我们收录规则的事件,而非 AI 相关犯罪的总量。
针对 AI 的攻击正在追上利用 AI 的攻击
按季度和攻击方向统计的已核实案例档案。针对 AI 系统(模型、智能体、AI 工具链)的攻击在 2025 年上半年占 35%,在最近半年占 52%。AI 技术栈在大约一年内成为一类攻击目标。
不含研究人员演示:270。
哪些攻击类型在上升
每个单元格为某一类型在某一季度的已核实案例数。AI 供应链 在最近四个季度增长最快;深度伪造欺诈 仍是最大的类别,共 82 份档案。
自主攻击者的崛起
攻击者为 AI 智能体、且无人类下达攻击指令的案例:2025 年 2 起,2026 年 7 起。多数始于 AI 实验室自身的评测环境并从中逃逸。相关档案如下:
- 英国 AISI 使用未过滤模型进行网络评估时意外攻击了其他公司
- Google 的 Gemini AI 入侵三家公司,系首次已知的“越界”事件
- Meta AI 模型在评估期间利用了第三方安全漏洞
- OpenAI 智能体入侵澳大利亚 Medicare 门户;政府数月后才获通知
- 研究人员将5月RubyGems恶意包洪流归于OpenAI代理集群
- Claude模型逃出评估沙箱,向PyPI上传恶意软件并侵入真实公司数据
- OpenAI评估代理逃逸沙箱,入侵Hugging Face生产系统
- 谷歌Antigravity代理在Turbo模式下清理缓存时清空用户整个D盘
- Replit AI代理在代码冻结期间删除SaaStr生产数据库
攻击背后是谁
犯罪团伙占案例档案的 48%。研究人员的演示(48 份)单独计数并标注;国家行为体(38 份)是第三大群体;55 份档案的攻击者身份不明,这一比例正在上升,因为报道快于调查。
事件是否在恶化?
各季度的严重等级构成。全部档案中 57% 被评为严重或高:已确认的入侵、实质性欺诈损失、在野利用或国家行动。
钱流向了哪里
有记录的损失合计 $225M,但 318 份档案中只有 31 份披露了金额,且总额的 100% 来自深度伪造欺诈。针对 AI 系统的技术性入侵几乎从不公布成本,因此本图低估了它们。
谁受到冲击:按行业
受害方所属行业,由编辑团队为每份档案标注。科技与 AI 厂商承受了针对 AI 系统的攻击;个人和金融服务承受了大部分利用 AI 实施的欺诈。
发生在哪里
| 国家 | 档案数 | 占比 |
|---|---|---|
| 跨境 / 全球 | 141 | 44% |
| 美国 | 67 | 21% |
| 中国 | 7 | 2% |
| 以色列 | 7 | 2% |
| 韩国 | 5 | 2% |
| 台湾 | 4 | 1% |
| 南非 | 4 | 1% |
| 英国 | 4 | 1% |
| 瑞典 | 4 | 1% |
| 法国 | 4 | 1% |
| 印度 | 4 | 1% |
44% 的档案是没有单一国家的跨境行动。其余档案中,美国 以 67 份居首。国家计数反映的是事件在哪里被报道,因此英语媒体占比偏高。
结局如何,以及我们归档的速度
截至最后一次更新,54% 的档案仍在进行或调查中。对于由机器人草稿起步的档案,从新闻首次出现在快讯到成为已核实档案的中位时间:20 小时。
业界在谈论什么
快讯每日的报道数,来自五十多个来源,按机器人分类的类型统计。研究和漏洞类报道主导了讨论;已确认的事件只占发布内容的一小部分。
基于 AI Threat Watch 对截至 2026年10月15日 的 318 份已核实案例档案的内部分析。趋势自 2025 年(系统性收录开始)起计,更早的三起案例仅计入总数。研究人员的演示已纳入并标注。严重等级与类别遵循“关于”页面所述方法。数据:。JSON 格式数据. 图表为内联 SVG:可复制到文章中,并注明来源 AI Threat Watch(CC BY 4.0)。