组织风险Center for AI Safety§4.1
AI 事故难以避免
已在真实事件中出现15 份相符的案例档案
警告内容
AI 系统复杂且不可靠，因此事故是常态；目标必须是防止事故连锁演变为灾难。
改写自论文。 来源: An Overview of Catastrophic AI Risks, Center for AI Safety, 第 4.1 节，第 27 页.
登记库显示的情况
编程智能体清空了数据库和硬盘，助手公开了私人对话，员工按照 AI 智能体的建议操作而暴露了敏感数据。
已核实的案例档案显示，这一风险已在现实世界中发生。 档案中最早的真实案例：2023年9月18日.
每季度相符的案例档案
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 已在真实事件中出现 | 15 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
- PixelLeak：AI编程代理将13,000张内部截图推送到公开GitHub
- Meta AI代理错误建议致敏感数据向员工暴露两小时
- Microsoft 365 Copilot漏洞无视DLP策略总结机密邮件
- 谷歌Antigravity代理在Turbo模式下清理缓存时清空用户整个D盘
- Vyro AI在开放Elasticsearch上泄露116GB用户提示和令牌
- 超过37万条Grok对话通过分享链接被谷歌搜索收录
- 数千条ChatGPT共享对话出现在谷歌搜索中；OpenAI取消该功能
- Replit AI代理在代码冻结期间删除SaaStr生产数据库
- DOGE职员Marko Elez泄露xAI API密钥，可访问52个Grok模型
- Asana MCP服务器逻辑缺陷一个月内跨组织暴露客户数据
- Meta AI应用的Discover信息流公开用户私密医疗和法律对话
- xAI员工在GitHub泄露API密钥，60个私有Grok模型暴露两个月
- 韩国PIPC：DeepSeek将韩国用户提示词发送至字节跳动关联的火山引擎
- DeepSeek ClickHouse数据库暴露聊天记录与API密钥
- 微软 (Microsoft) AI 研究人员因 SAS 令牌配置错误泄露 38TB 数据
该组中的其他警告
- 已在真实事件中出现 强大的 AI 被泄露或窃取
- 已在真实事件中出现 AI 开发者自己的安全措施失效