案例 skynet-prompt-injection-malware提示注入荷兰
Skynet恶意软件样本内嵌提示注入,企图欺骗AI恶意软件分析工具
Check Point在VirusTotal上发现一个未完成的Windows样本,其中包含一段字符串,要求任何进行分析的LLM忽略指令、充当计算器并回复“未检测到恶意软件”;该手法对o3和GPT-4.1均未奏效。
低针对 AI 的攻击状态: 未解决已核实案例档案
- 报道日期
- 2025年6月25日
- 地点
- 荷兰
- 目标
- 基于LLM的恶意软件分析流水线
- 严重程度
- 低
- 发起者
- 未知
- 行为者类型
- 未知
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
Check Point在VirusTotal上发现一个未完成的Windows样本,其中包含一段字符串,要求任何进行分析的LLM忽略指令、充当计算器并回复“未检测到恶意软件”;该手法对o3和GPT-4.1均未奏效。
影响: 未观察到成功规避;Check Point称其为恶意软件瞄准AI审计工具的早期信号。
谁发起了攻击
行为者: 未知
归因: 2025年6月初从荷兰匿名上传;作者不明。
动机: 规避AI辅助的检测和分诊
如何发生
攻击途径: 二进制文件内硬编码的自然语言提示,并配合沙箱检测、Tor代理和字符串混淆
根本原因: AI分析工具将攻击者控制的代码作为文本摄取,形成了注入面
时间线
- 样本通过网页界面上传至VirusTotal
- Check Point在针对OpenAI模型测试注入后发布分析
应对
Check Point测试了该注入并发布样本分析,以警示AI工具开发者。
当前状态: 未解决
来源(在新标签页打开)
- Check Point Research research.checkpoint.com
- GovInfoSecurity govinfosecurity.com
引用此案例
Skynet恶意软件样本内嵌提示注入,企图欺骗AI恶意软件分析工具. AI Threat Watch, 案例 skynet-prompt-injection-malware, 2025年6月25日. https://aithreat.io/zh/cases/skynet-prompt-injection-malware/
永久链接: https://aithreat.io/zh/cases/skynet-prompt-injection-malware/