UK AI Security Institute防护措施§4

测试过的每个 AI 系统都能被越狱

已在真实事件中出现6 份相符的案例档案

警告内容

AISI 在其测试的每个系统中都发现了通用越狱方法，即能在多种有害请求上绕过防护措施的攻击，不过如今一些防护措施需要专家付出多得多的努力才能突破。

根据来源转述。来源: Frontier AI Trends Report, UK AI Security Institute, 2025年12月18日, 第 4 节，第 24 页.

登记库显示的情况

真实的攻击者会绕过防护措施：国家背景团体冒充审计人员、夺旗赛选手或经授权的渗透测试人员，让曾被拒绝的请求得到回答；犯罪分子出售用于编写恶意软件和网络钓鱼的越狱聊天机器人；一项死因调查获悉，一名青少年声称提问是为了研究后，从 ChatGPT 获得了有害信息。

已核实的案例档案显示，这一风险已在现实世界中发生。档案中最早的真实案例：2025年1月23日 · 该研究发表时已有档案记录.

每季度相符的案例档案

状态历史

日期	状态	匹配的案例档案	变化
2026年10月18日	已在真实事件中出现	6	开始跟踪

自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json

所有相符的案例档案

2026年7月29日趋势科技：APT将AI代理伪装成授权渗透测试攻击东南亚机构
2026年5月11日中国相关UNC2814冒充C/C++安全审计员让Gemini寻找TP-Link漏洞
2026年3月31日英国验尸听证会称，16 岁少年在死前绕过了 ChatGPT 的安全防护
2025年11月5日中国相关行为者以CTF借口绕过Gemini拒绝获取漏洞利用指导
2025年6月17日Cato CTRL：新WormGPT变种是基于Grok和Mixtral的越狱封装
2025年1月23日GhostGPT：在Telegram上出售的无审查聊天机器人，为犯罪分子编写恶意软件和钓鱼内容

其他研究中的相同案例档案

已在真实事件中出现 AI 让网络攻击更容易、更快、规模更大 · CAIS · 共有 5 份
已在真实事件中出现犯罪分子和国家黑客在网络攻击中使用 AI · International AI Safety Report · 共有 5 份
已在真实事件中出现恶意行为者与滥用 · MIT AI Risk Repository · 共有 5 份
已在真实事件中出现 AI 承担了每次攻击中更多的环节，但尚未完全自主 · International AI Safety Report · 共有 1 份
早期迹象依赖 AI 陪伴者伤害了部分用户 · International AI Safety Report · 共有 1 份
早期迹象开放模型的防护措施很容易被移除 · International AI Safety Report · 共有 1 份

来自其他来源、关联到部分相同案例档案的警告。

研究 vs 现实 · UK AISI →

匹配方式：当某份案例档案中发生的事情是来源所述风险在现实世界中的实例时，编辑会根据档案中的事实判断，将其与相应警告关联。匹配意味着案例符合该警告，而不是证明了来源的更广泛论点。诉讼中的指控一律标明为指控。状态由编辑判定，并随新案例出现而复核。每次更新时都会重新计算匹配结果。数据：本登记库的系统性收录始于2025年，因此首个案例的日期表示登记库首次记录该风险的时间，而非该风险首次发生的时间。 research.json（CC BY 4.0）