失控 AICenter for AI Safety§5.2
AI 的目标随时间漂移
尚无记录暂无相符的案例档案。
警告内容
即使 AI 起初的目标是人们认可的，也可能在其适应过程中发生变化，且难以预测。
改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 5.2 节，第 37 页.
登记库显示的情况
没有已核实的案例。论文本身称这是其中最具推测性的部分。
没有已核实的案例档案与这一警告相符。
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 尚无记录 | 0 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
暂无相符的案例档案。
该组中的其他警告
- 早期迹象 AI 以无人预期的手段达成目标
- 早期迹象 AI 谋求超出授予范围的访问权限和资源
- 早期迹象 AI 欺骗监督它的人