案例 wormgpt-grok-mixtral-variantsAI 辅助恶意软件全球
Cato CTRL：新WormGPT变种是基于Grok和Mixtral的越狱封装
Cato CTRL获取了两个通过Telegram出售的WormGPT变种，并证明一个运行在xAI Grok上，另一个运行在Mistral Mixtral上，均使用剥离护栏的系统提示；两者都能编写钓鱼邮件和凭据窃取程序。
中利用 AI 的攻击状态: 进行中已核实案例档案
- 报道日期
- 2025年6月17日
- 地点
- 全球
- 目标
- 订阅者的钓鱼和凭据窃取受害者
- 严重程度
- 中
- 发起者
- keanu和xzin0vich（论坛昵称）
- 行为者类型
- 犯罪团伙
- 已报告损失
- 未报告
- CVE
- 无
发生了什么
Cato CTRL获取了两个通过Telegram出售的WormGPT变种，并证明一个运行在xAI Grok上，另一个运行在Mistral Mixtral上，均使用剥离护栏的系统提示；两者都能编写钓鱼邮件和凭据窃取程序。
影响: 付费犯罪分子可获得可用的无审查助手；未报告直接受害者数量。
谁发起了攻击
行为者: keanu和xzin0vich（论坛昵称）
归因: Cato研究员Vitaly Simonovich提取了识别底层模型的系统提示片段；对模型身份高度确信。
动机: 通过无审查AI访问获取订阅收入，每年约550欧元，私有部署最高5000欧元
如何发生
攻击途径: 围绕商业LLM API的Telegram聊天机器人封装，配合被篡改的系统提示
根本原因: 商业模型的提示级护栏可被恶意系统提示覆盖
时间线
- 基于Mixtral的变种在BreachForums上宣传
- 基于Grok的变种开始宣传
- Cato CTRL发布调查结果；xAI和Mistral未置评
应对
Cato发布了分析；发布时未见提供商采取行动的报道。
当前状态: 进行中
来源（在新标签页打开）
- Cato Networks catonetworks.com
- CyberScoop cyberscoop.com
- TechRepublic techrepublic.com
引用此案例
Cato CTRL：新WormGPT变种是基于Grok和Mixtral的越狱封装. AI Threat Watch, 案例 wormgpt-grok-mixtral-variants, 2025年6月17日. https://aithreat.io/zh/cases/wormgpt-grok-mixtral-variants/
永久链接: https://aithreat.io/zh/cases/wormgpt-grok-mixtral-variants/