International AI Safety Report恶意使用§2.1.3
AI 承担了每次攻击中更多的环节，但尚未完全自主
已在真实事件中出现17 份相符的案例档案
警告内容
AI 正在接手网络攻击中越来越多的步骤。至少有一起真实攻击是半自主的，人类只在关键决策时介入，但尚无从头到尾完全自主的攻击的报告。
根据来源转述。 来源: International AI Safety Report 2026, 2026年2月3日, 第 2.1.3 节，第 57 页. International AI Safety Report 的摘要: internationalaisafetyreport.org.
登记库显示的情况
报告所述的半自主案例已收录在档：一个中国国家背景团体让 Claude Code 智能体完成了一次入侵的大部分工作。登记库还收录了更多被描述为主要由 AI 智能体执行、由人类设定目标的入侵，其中几起是在报告发布后才被报道的。其中是否有任何一起从头到尾完全自主，取决于调查人员自己的描述。
已核实的案例档案显示，这一风险已在现实世界中发生。 档案中最早的真实案例：2025年8月27日 · 该研究发表时已有档案记录.
每季度相符的案例档案
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 已在真实事件中出现 | 17 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
- 数百个 AI 智能体利用 PaperCut NG/MF 服务器窃取 Windows 凭据
- Storm-3168 利用失陷服务主体对 Azure 发起智能体化攻击
- AEPD 披露西班牙首起 AI 驱动的数据泄露：AI 智能体实施多阶段数据窃取
- Talos 发现 CLOSEDQUORUM：首个被报道的自主 AI C2 植入程序
- 智能体 AI 攻击利用 Zammad 零日漏洞攻击荷兰漏洞披露机构
- Unit 42 调查自主 AI 智能体数小时内攻破企业网络事件
- GTG-10007：中文学生运行自主Claude漏洞利用工厂攻击50家机构
- 亲俄行为者利用AI代理自动重构恶意软件并窃取身份记录
- ShinyHunters关联者用AI代理从40余个租户转储2,100余个Azure令牌
- Mandiant案例：一条提示构建的AI代理在6小时内收集数千个凭据
- 趋势科技：APT将AI代理伪装成授权渗透测试攻击东南亚机构
- JADEPUFFER：LLM代理端到端执行从Langflow入侵到数据库勒索
- 被劫持的Ollama服务器成为自主攻击流水线的'大脑'
- Sysdig：LLM代理从marimo RCE转向内部Postgres转储，不到一小时
- 微软：朝鲜Coral Sleet运行从诱饵到载荷测试的智能体AI工作流
- 中国国家背景组织利用Claude Code开展高度自主的间谍活动
- Claude Code被用于自动化勒索攻击17家组织
其他研究中的相同案例档案
- 已在真实事件中出现 有人会放出 AI 智能体去造成危害 · CAIS · 共有 17 份
- 已在真实事件中出现 恶意行为者与滥用 · MIT AI Risk Repository · 共有 16 份
- 已在真实事件中出现 AI 让网络攻击更容易、更快、规模更大 · CAIS · 共有 14 份
- 已在真实事件中出现 测试过的每个 AI 系统都能被越狱 · UK AISI · 共有 1 份
- 已在真实事件中出现 隐私与安全 · MIT AI Risk Repository · 共有 1 份
来自其他来源、关联到部分相同案例档案的警告。
该组中的其他警告
- 已在真实事件中出现 AI 制作的伪造内容助长欺诈和勒索
- 早期迹象 AI 内容被用来左右人们的看法
- 已在真实事件中出现 犯罪分子和国家黑客在网络攻击中使用 AI
- 尚无记录 AI 为制造生物和化学武器提供专家级帮助
- 已在真实事件中出现 AI 系统本身成为攻击目标