AI 竞赛Center for AI Safety§3.1.2
AI 让网络攻击更容易、更快、规模更大
已在真实事件中出现87 份相符的案例档案
警告内容
AI 可能降低网络攻击的入门门槛，并提高其规模、速度和成功率，包括针对社会赖以运转的基础设施的攻击。
改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 3.1.2 节，第 15 页.
登记库显示的情况
这是登记库中记录最充分的预测：新手借助聊天机器人制作勒索软件，恶意软件向模型询问下一步该做什么，国家背景的团体在攻击的每个阶段使用 AI，AI 编写的脚本探测工业控制器。
已核实的案例档案显示，这一风险已在现实世界中发生。 档案中最早的真实案例：2025年1月10日.
每季度相符的案例档案
已在真实事件中出现实验室测试或研究人员演示
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 已在真实事件中出现 | 87 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
- 数百个 AI 智能体利用 PaperCut NG/MF 服务器窃取 Windows 凭据
- Storm-3168 利用失陷服务主体对 Azure 发起智能体化攻击
- AI 驱动的间谍活动瞄准政府 Linux 基础设施
- AEPD 披露西班牙首起 AI 驱动的数据泄露：AI 智能体实施多阶段数据窃取
- 美国公告：攻击者利用 AI 生成的漏洞利用脚本攻击暴露在外的西门子 (Siemens) S7 PLC
- 未知行为者利用 AI 驱动的 ARTEX 攻击韩国金融业
- Aurora 勒索软件运营者滥用 Cursor Agent AI 进行侦察和漏洞利用
- 滥用 ChatGPT 功能并结合 ClickFix，向通过 Google 搜索的用户投递木马
- ClaudeFix：利用共享的 Claude 对话投递 ClickFix 恶意软件指令
- Talos 发现 CLOSEDQUORUM：首个被报道的自主 AI C2 植入程序
- 智能体 AI 攻击利用 Zammad 零日漏洞攻击荷兰漏洞披露机构
- Meta AI 模型在评估期间利用了第三方安全漏洞
- 新 NGate 变种藏身于木马化 NFC 支付应用，可能借助 AI 构建
- RatHat 恶意软件 C2 面板利用 AI 构建恶意软件并对约 100 个部署中的受害者进行排名
- 与中国相关的 TA419 冒充 AI 专家对美国 AI 政策圈内人士实施钓鱼
- UAT-11985 利用 AI 辅助的活动主题诱饵在台湾实施 Google AitM 钓鱼
- Unit 42 调查自主 AI 智能体数小时内攻破企业网络事件
- 攻击者利用 AI 工具对拉丁美洲机构实施数据外泄
- GTG-10007：中文学生运行自主Claude漏洞利用工厂攻击50家机构
- GTG-30006：伊朗账户用Claude构建钓鱼门户和SECOMS64植入程序
- GTG-50029：法语独行黑客行动主义者攻破14个欧洲政治实体
- 亲俄行为者利用AI代理自动重构恶意软件并窃取身份记录
- ShinyHunters关联者用AI代理从40余个租户转储2,100余个Azure令牌
- Sandworm相关集群用Gemini编写针对乌克兰的密码喷洒脚本
- SilkParasite：中国相关中亚间谍活动使用AI辅助诱饵和RAT代码
- NSA、CISA、FBI警告AI生成脚本伪装成OT监控工具探测西门子S7 PLC
- 趋势科技：APT将AI代理伪装成授权渗透测试攻击东南亚机构
- 趋势科技：Earth Krahang和Earth Naga将生成式AI融入漏洞利用和加载器
- TuxBot v3：Keksec相关物联网僵尸网络借LLM构建，仍保留安全免责声明
- JADEPUFFER：LLM代理端到端执行从Langflow入侵到数据库勒索
- 千叶警方逮捕在朝日攻击新闻后用AI制作勒索软件的19岁青年
- Sophos发现勒索软件相关行为者用Cursor和Claude代理构建EDR规避手段
- Nimbus Manticore的MiniFast后门显示伊朗冲突期间的AI辅助编码
- GTIG拦截首个AI开发的零日漏洞：热门开源管理工具的2FA绕过
- 朝鲜APT45向Gemini输入数千条提示以验证漏洞利用并扩充武器库
- 俄罗斯相关CANFAIL和LONGSTREAM恶意软件用LLM填充代码迷惑分析人员
- PROMPTSPY Android后门让Gemini操控受害者屏幕并阻止卸载
- 中国相关UNC2814冒充C/C++安全审计员让Gemini寻找TP-Link漏洞
- Talos IR：公共部门凭据被用Softr AI构建器“氛围编程”的钓鱼页面窃取
- Unit 42：Go投放器根据主机遥测询问GPT-4是否部署Sliver
- 仿冒域名上的 AI 生成 ClickFix 站点投递 SmartRAT
- 微软：朝鲜Coral Sleet运行从诱饵到载荷测试的智能体AI工作流
- HP Wolf：AI生成的“氛围黑客”感染脚本绕过邮件网关
- 伊朗相关组织Dust Specter用带生成式AI痕迹的恶意软件攻击伊拉克官员
- 黑客利用Claude入侵墨西哥政府机构，窃取150GB税务与选民数据
- COINBAIT加密交易所钓鱼套件由Lovable AI应用构建器打造
- 谷歌：国家黑客全程使用Gemini；10万提示词提取尝试被拦截
- HONESTCUE加载器让Gemini编写全新C#第二阶段代码并在内存中编译
- CERT-FR：42个攻击组织积极使用生成式AI，尚无针对法国的自主AI攻击
- VoidLink云恶意软件框架被发现主要由AI代理构建
- Unit 42测试WormGPT 4和KawaiiGPT：能编写勒索软件脚本的犯罪LLM
- 中国国家背景组织利用Claude Code开展高度自主的间谍活动
- 中国相关行为者以CTF借口绕过Gemini拒绝获取漏洞利用指导
- 伊朗MuddyWater调试恶意软件时向Gemini泄露C2域名和加密密钥
- 谷歌披露PROMPTFLUX等在运行时调用Gemini的恶意软件
- QUIETVAULT窃密程序利用本地AI CLI工具搜寻机密，泄露GitHub和npm令牌
- SesameOp后门数月间利用OpenAI Assistants API作为隐蔽指挥控制通道
- Kaspersky：BlueNoroff的GhostCall和GhostHire活动借生成式AI提速
- 朝鲜相关集群利用ChatGPT开发C2工具钓鱼首尔外交官
- 俄语犯罪分子用ChatGPT代码片段拼装RAT和凭据窃取程序
- 柬埔寨、缅甸和尼日利亚诈骗网络用ChatGPT打造投资诈骗人设
- UNK_DropPitch利用ChatGPT针对台湾芯片行业制作钓鱼内容和工具
- 微软拦截使用LLM生成混淆SVG文件的钓鱼活动
- SentinelLABS发现MalTerminal：GPT-4驱动的恶意软件生成器
- Kimsuky利用ChatGPT伪造韩国军人证件实施鱼叉式钓鱼
- 独行犯罪者在论坛以400至1200美元出售Claude构建的勒索软件变种
- Claude Code被用于自动化勒索攻击17家组织
- ESET发现PromptLock：利用本地gpt-oss模型编写脚本的勒索软件 · 实验室测试或研究人员演示
- Proofpoint：Lovable AI构建器被滥用于Tycoon钓鱼，波及5000多家机构
- AI编写的npm包@kodane/patch-manager在1500次下载后清空Solana钱包
- LameHug：与APT28相关的恶意软件调用Qwen大模型生成命令
- GLOBAL GROUP RaaS部署AI聊天机器人谈判员施压索取七位数赎金
- Cato CTRL：新WormGPT变种是基于Grok和Mixtral的越狱封装
- ScopeCreep：俄语行为者用ChatGPT一次性账户构建Windows恶意软件
- VAGue Focus：与中国有关的账户用ChatGPT对美国官员和媒体实施社会工程
- OpenAI封禁APT15和APT5账户，它们用ChatGPT进行渗透测试自动化和美国侦察
- Wrong Number：柬埔寨任务诈骗用ChatGPT将短信诱饵翻译成六种语言
- FBI警告AI语音钓鱼活动冒充美国高级官员劫持账户
- Anthropic封禁利用Claude构建物联网安防摄像头凭据抓取工具的行为者
- 编程新手借助Claude扩展人肉搜索工具包和可规避检测的恶意软件生成器
- 招聘诈骗团伙利用Claude润色针对东欧的假招聘经理诱饵
- AkiraBot利用GPT-4o-mini通过联系表单和聊天插件向8万个网站发送垃圾信息
- Xanthorox AI：自托管五模型犯罪平台，自称WormGPT终结者
- 柬埔寨婚恋诱骗诈骗团伙利用ChatGPT生成多语言社交诱饵
- Kimsuky和BlueNoroff利用ChatGPT调试RDP暴力破解代码并研究入侵手段
- GhostGPT：在Telegram上出售的无审查聊天机器人，为犯罪分子编写恶意软件和钓鱼内容
- Check Point：FunkSec勒索软件团伙借助AI编写Rust加密器
该组中的其他警告
- 超出我们的衡量范围 军方把生死决定交给 AI
- 早期迹象 公司为赢得竞赛，在 AI 尚不安全时就将其推出
- 超出我们的衡量范围 自动化使社会依赖 AI
- 超出我们的衡量范围 竞争筛选出自私的 AI