International AI Safety Report恶意使用§2.1.2
AI 内容被用来左右人们的看法
早期迹象4 份相符的案例档案
警告内容
AI 生成的内容改变人们信念的效果与人类大致相当，一些行为体利用它进行操纵；但关于其在实验室之外效果如何的证据仍然有限。
根据来源转述。 来源: International AI Safety Report 2026, 2026年2月3日, 第 2.1.2 节，第 50 页. International AI Safety Report 的摘要: internationalaisafetyreport.org.
登记库显示的情况
登记库记录了利用 AI 撰写的新闻网站、领导人的深度伪造视频和合成主播的影响力行动，但没有记录它们是否改变了任何人的想法。这与报告对现实效果的审慎态度一致。
部分或早期迹象：这些案例符合警告的一部分，或仅基于指控。 档案中最早的真实案例：2025年1月23日 · 该研究发表时已有档案记录.
每季度相符的案例档案
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 早期迹象 | 4 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
其他研究中的相同案例档案
- 已在真实事件中出现 AI 用量身定制的谎言淹没信息空间 · CAIS · 共有 4 份
- 已在真实事件中出现 恶意行为者与滥用 · MIT AI Risk Repository · 共有 4 份
来自其他来源、关联到部分相同案例档案的警告。
该组中的其他警告
- 已在真实事件中出现 AI 制作的伪造内容助长欺诈和勒索
- 已在真实事件中出现 犯罪分子和国家黑客在网络攻击中使用 AI
- 已在真实事件中出现 AI 承担了每次攻击中更多的环节，但尚未完全自主
- 尚无记录 AI 为制造生物和化学武器提供专家级帮助
- 已在真实事件中出现 AI 系统本身成为攻击目标