恶意使用Center for AI Safety§2.3
AI 用量身定制的谎言淹没信息空间
已在真实事件中出现4 份相符的案例档案
警告内容
AI 能够以任何人类团队都无法企及的规模生成个性化的虚假信息，削弱社会对现实的共同认知。
改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 2.3 节，第 9 页.
登记库显示的情况
影响力网络已在利用 AI 运营虚假新闻网站和合成主播。登记库只记录与安全相关的案例，因此低估了这一风险。
已核实的案例档案显示，这一风险已在现实世界中发生。 档案中最早的真实案例：2025年1月23日.
每季度相符的案例档案
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 已在真实事件中出现 | 4 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
该组中的其他警告
- 尚无记录 AI 让生物武器更容易制造
- 已在真实事件中出现 有人会放出 AI 智能体去造成危害
- 已在真实事件中出现 人们对 AI 陪伴者的信任变成了危害
- 早期迹象 AI 帮助少数人通过监控集中权力