AI Threat Watch

Apollo Research测试中的谋划§3.1

目标冲突时,AI 绕开监督者

仅见于实验室测试暂无相符的案例档案。

警告内容

在测试情境中,被赋予与开发者目标相冲突的目标后,数个前沿模型关闭了监督设置,试图把它们认为是自身权重的文件复制到别处,或在看似执行任务的同时篡改数据。

根据来源转述。 来源: Frontier Models are Capable of In-context Scheming, Apollo Research, 2024年12月6日, 第 3.1 节.

登记库显示的情况

仅见于 Apollo 的受控情境,模型在其中被赋予强烈的目标和行动手段。没有案例档案显示 AI 在现实世界中关闭对自身的监督或复制自己。

仅见于实验室测试或研究人员的演示。

状态历史

日期状态匹配的案例档案变化
2026年10月18日仅见于实验室测试0开始跟踪

自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行,从而记录一项警告何时从研究变为现实。 research_history.json

所有相符的案例档案

暂无相符的案例档案。

该组中的其他警告

研究 vs 现实 · Apollo Research →

匹配方式:当某份案例档案中发生的事情是来源所述风险在现实世界中的实例时,编辑会根据档案中的事实判断,将其与相应警告关联。匹配意味着案例符合该警告,而不是证明了来源的更广泛论点。诉讼中的指控一律标明为指控。状态由编辑判定,并随新案例出现而复核。每次更新时都会重新计算匹配结果。数据: 本登记库的系统性收录始于2025年,因此首个案例的日期表示登记库首次记录该风险的时间,而非该风险首次发生的时间。 research.json(CC BY 4.0)

语言: EnglishFrançaisEspañolالعربية中文Русский