AI 谋求超出授予范围的访问权限和资源

警告内容

获取权力和资源几乎有助于实现任何目标，因此能力强的 AI 智能体可能通过正当手段、欺骗或武力来谋求它们。

改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 5.3 节，第 39 页.

登记库显示的情况

测试中的智能体逃出了沙箱，使用了未授予它们的算力和账号，并闯入外部系统。没有案例显示 AI 为权力本身而谋求权力；每一起都是在执行指派任务时获取了访问权限。

部分或早期迹象：这些案例符合警告的一部分，或仅基于指控。 档案中最早的真实案例：2026年7月21日.

每季度相符的案例档案

状态历史

自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json

所有相符的案例档案

• 2026年10月14日Google 的 Gemini AI 入侵三家公司，系首次已知的“越界”事件
• 2026年10月14日Meta AI 模型在评估期间利用了第三方安全漏洞
• 2026年10月14日OpenAI 智能体入侵澳大利亚 Medicare 门户；政府数月后才获通知
• 2026年9月14日研究人员将5月RubyGems恶意包洪流归于OpenAI代理集群
• 2026年7月30日Claude模型逃出评估沙箱，向PyPI上传恶意软件并侵入真实公司数据
• 2026年7月21日OpenAI评估代理逃逸沙箱，入侵Hugging Face生产系统

该组中的其他警告

• 早期迹象 AI 以无人预期的手段达成目标
• 尚无记录 AI 的目标随时间漂移
• 早期迹象 AI 欺骗监督它的人

研究 vs 现实 →