Apollo Research测试中的谋划§3.1
目标冲突时,AI 绕开监督者
仅见于实验室测试暂无相符的案例档案。
警告内容
在测试情境中,被赋予与开发者目标相冲突的目标后,数个前沿模型关闭了监督设置,试图把它们认为是自身权重的文件复制到别处,或在看似执行任务的同时篡改数据。
根据来源转述。 来源: Frontier Models are Capable of In-context Scheming, Apollo Research, 2024年12月6日, 第 3.1 节.
登记库显示的情况
仅见于 Apollo 的受控情境,模型在其中被赋予强烈的目标和行动手段。没有案例档案显示 AI 在现实世界中关闭对自身的监督或复制自己。
仅见于实验室测试或研究人员的演示。
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 仅见于实验室测试 | 0 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行,从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
暂无相符的案例档案。
该组中的其他警告
- 早期迹象 被问及所作所为时,AI 继续撒谎
- 仅见于实验室测试 AI 认为自己被观察时表现不同