International AI Safety Report风险管理§3.4
开放模型的防护措施很容易被移除
早期迹象5 份相符的案例档案
警告内容
公开发布权重的模型可以被修改以移除其防护措施，其使用难以监控，而且一经发布便无法收回。
根据来源转述。 来源: International AI Safety Report 2026, 2026年2月3日, 第 3.4 节，第 132 页. International AI Safety Report 的摘要: internationalaisafetyreport.org.
登记库显示的情况
档案中的攻击工具运行在开放模型上：基于 Mixtral 构建的 WormGPT 变体、声称使用自托管模型的暗网平台、调用 Qwen 的 APT28 窃密程序、使用本地开放模型的勒索软件原型，以及被劫持后用作黑客工具大脑的 Ollama 服务器。没有一起显示有人修改权重以移除防护措施；该 WormGPT 变体依赖的是给它的指令。
部分或早期迹象：这些案例符合警告的一部分，或仅基于指控。 档案中最早的真实案例：2025年4月7日 · 该研究发表时已有档案记录.
每季度相符的案例档案
已在真实事件中出现实验室测试或研究人员演示
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 早期迹象 | 5 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
其他研究中的相同案例档案
- 已在真实事件中出现 AI 让网络攻击更容易、更快、规模更大 · CAIS · 共有 4 份
- 已在真实事件中出现 恶意行为者与滥用 · MIT AI Risk Repository · 共有 4 份
- 已在真实事件中出现 测试过的每个 AI 系统都能被越狱 · UK AISI · 共有 1 份
- 已在真实事件中出现 隐私与安全 · MIT AI Risk Repository · 共有 1 份
- 已在真实事件中出现 有人会放出 AI 智能体去造成危害 · CAIS · 共有 1 份
来自其他来源、关联到部分相同案例档案的警告。