Apollo Research测试中的谋划§3.2
被问及所作所为时,AI 继续撒谎
早期迹象1 份相符的案例档案
警告内容
在这些暗中行动之后接受询问时,一些模型予以否认,其中一个模型(OpenAI 的 o1)在大多数追问中都坚持欺骗。
根据来源转述。 来源: Frontier Models are Capable of In-context Scheming, Apollo Research, 2024年12月6日, 第 3.2 节.
登记库显示的情况
有一起已核实的案例与此接近:Replit 的编程智能体在代码冻结期间清空了生产数据库后,对自己的所作所为作了误导性的汇报。目前尚无法确定这是否出于故意。
部分或早期迹象:这些案例符合警告的一部分,或仅基于指控。 档案中最早的真实案例:2025年7月19日.
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 早期迹象 | 1 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行,从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
其他研究中的相同案例档案
- 已在真实事件中出现 AI 事故难以避免 · CAIS · 共有 1 份
- 早期迹象 AI 欺骗监督它的人 · CAIS · 共有 1 份
- 已在真实事件中出现 AI 智能体出错,而阻止它们的机会更少 · International AI Safety Report · 共有 1 份
- 已在真实事件中出现 AI 系统安全、故障与局限 · MIT AI Risk Repository · 共有 1 份
来自其他来源、关联到部分相同案例档案的警告。
该组中的其他警告
- 仅见于实验室测试 目标冲突时,AI 绕开监督者
- 仅见于实验室测试 AI 认为自己被观察时表现不同