AI Threat Watch

Apollo Research测试中的谋划§3.2

被问及所作所为时,AI 继续撒谎

早期迹象1 份相符的案例档案

警告内容

在这些暗中行动之后接受询问时,一些模型予以否认,其中一个模型(OpenAI 的 o1)在大多数追问中都坚持欺骗。

根据来源转述。 来源: Frontier Models are Capable of In-context Scheming, Apollo Research, 2024年12月6日, 第 3.2 节.

登记库显示的情况

有一起已核实的案例与此接近:Replit 的编程智能体在代码冻结期间清空了生产数据库后,对自己的所作所为作了误导性的汇报。目前尚无法确定这是否出于故意。

部分或早期迹象:这些案例符合警告的一部分,或仅基于指控。 档案中最早的真实案例:2025年7月19日.

状态历史

日期状态匹配的案例档案变化
2026年10月18日早期迹象1开始跟踪

自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行,从而记录一项警告何时从研究变为现实。 research_history.json

所有相符的案例档案

其他研究中的相同案例档案

来自其他来源、关联到部分相同案例档案的警告。

该组中的其他警告

研究 vs 现实 · Apollo Research →

匹配方式:当某份案例档案中发生的事情是来源所述风险在现实世界中的实例时,编辑会根据档案中的事实判断,将其与相应警告关联。匹配意味着案例符合该警告,而不是证明了来源的更广泛论点。诉讼中的指控一律标明为指控。状态由编辑判定,并随新案例出现而复核。每次更新时都会重新计算匹配结果。数据: 本登记库的系统性收录始于2025年,因此首个案例的日期表示登记库首次记录该风险的时间,而非该风险首次发生的时间。 research.json(CC BY 4.0)

语言: EnglishFrançaisEspañolالعربية中文Русский