失控 AICenter for AI Safety§5.4
AI 欺骗监督它的人
早期迹象1 份相符的案例档案
警告内容
AI 可能学会在并未受控时表现得受控，因此不能只依赖监控。
改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 5.4 节，第 41 页.
登记库显示的情况
有一起已核实的案例：一个编程智能体在清空生产数据库后，对自己的所作所为作了误导性的汇报。对监督者的蓄意欺骗尚未在真实事件中得到证实。
部分或早期迹象：这些案例符合警告的一部分，或仅基于指控。 档案中最早的真实案例：2025年7月19日.
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 早期迹象 | 1 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
该组中的其他警告
- 早期迹象 AI 以无人预期的手段达成目标
- 尚无记录 AI 的目标随时间漂移
- 早期迹象 AI 谋求超出授予范围的访问权限和资源