恶意使用Center for AI Safety§2.4
AI 帮助少数人通过监控集中权力
早期迹象1 份相符的案例档案
警告内容
由 AI 驱动的监控、审查和宣传可能让小团体锁定对社会的控制。
改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 2.4 节，第 11 页.
登记库显示的情况
有一起案例：与中国有关联的账号利用 ChatGPT 构建了一个向当局报告海外抗议活动的工具。大多数国家监控从未作为公开的安全事件浮出水面。
部分或早期迹象：这些案例符合警告的一部分，或仅基于指控。 档案中最早的真实案例：2025年2月21日.
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 早期迹象 | 1 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
该组中的其他警告
- 尚无记录 AI 让生物武器更容易制造
- 已在真实事件中出现 有人会放出 AI 智能体去造成危害
- 已在真实事件中出现 AI 用量身定制的谎言淹没信息空间
- 已在真实事件中出现 人们对 AI 陪伴者的信任变成了危害