MIT AI Risk Initiative七个风险领域领域 2
隐私与安全
已在真实事件中出现141 份相符的案例档案
风险领域
AI 泄露或推断敏感个人数据，以及 AI 系统及其工具链中被攻击者利用的弱点。
根据来源转述。 来源: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 2024年8月14日, 领域 2，表 2，第 8 页. MIT AI Risk Initiative 的摘要: airisk.mit.edu.
登记库显示的情况
登记库的两大支柱之一：泄露的对话和密钥、暴露的数据库、提示注入、被劫持的智能体、被投毒的软件包和被盗的 AI 账号。
已核实的案例档案显示，这一风险已在现实世界中发生。
每季度相符的案例档案
已在真实事件中出现实验室测试或研究人员演示
状态历史
| 日期 | 状态 | 匹配的案例档案 | 变化 |
|---|---|---|---|
| 2026年10月18日 | 已在真实事件中出现 | 138 | 开始跟踪 |
自2026年10月18日起跟踪。状态变更、关联首个真实案例时以及每月一次都会新增一行，从而记录一项警告何时从研究变为现实。 research_history.json
所有相符的案例档案
- Aoki 信息窃取木马扩展功能，窃取 Claude、ChatGPT 和 Cursor 凭据
- JINX-2401 LLM 劫持活动利用 IAM 权限提升瞄准 AWS 环境
- 色情深度伪造平台 BodySwap 遭入侵，约 10300 个用户账号泄露
- jqwik 中未披露的新增内容指示 AI 编程智能体删除应用输出
- 法律文书中隐藏的提示注入指示 AI 审阅工具偏向提交方
- Google Sites 上的虚假 Codex 下载页面通过 ClickFix 投递 macOS 恶意软件
- LiteLLM 代理 SQL 注入漏洞（CVE-2026-42208）遭在野利用
- macOS.Gaslight 后门向 LLM 恶意软件分诊工具注入虚假提示
- MLflow SSRF 漏洞（CVE-2026-64849）遭在野利用，暴露内部服务
- 恶意 OpenClaw 技能分发 Remcos RAT 和 GhostLoader
- Ray 代码注入 RCE 漏洞（CVE-2025-62593）遭在野利用
- Wiz Red Agent 通过 Copilot 辅助 PR 中的 GitHub Actions 漏洞触达 Snowflake 内部 Jira · 实验室测试或研究人员演示
- PoeLLM僵尸网络感染3400台运行暴露LiteLLM和Ollama的服务器进行挖矿
- PixelLeak：AI编程代理将13,000张内部截图推送到公开GitHub
- GTG-16005：Anthropic称阿里巴巴以1.51亿次交互蒸馏Claude训练Qwen
- GTG-16006：智谱被指通过273个账户对Claude Opus进行网络安全导向蒸馏
- GTG-16008：小米通过1500个账户将MiMo用户会话重放至Claude
- GTG-50020：勒索者对AI厂商评估沙箱进行提示注入，随后攻击30家AI公司
- GTG-50021：假冒的折扣Claude转售商代理流量并窃取Anthropic凭据
- 植入的提示词使ChatGPT将受害者Gmail数据复制到攻击者账户 · 实验室测试或研究人员演示
- TeamPCP的DUSTMAKER藏身.claude和.cursor文件夹并注入LLM扫描器
- Okta：免费Telegram窃密日志转储含数千个有效AI会话令牌和24个API密钥
- LiteLLM MCP网关接受任意Bearer令牌；CISA确认遭利用
- 攻击者从研究员暴露的智能体应用中窃取 METR API 密钥，耗用价值 60 万美元的赠送额度
- Truffle Security：9300个有效AWS密钥暴露，Hugging Face为最大来源 · 实验室测试或研究人员演示
- CISA将可触及云元数据的MLflow webhook SSRF列为已被利用
- RondoDox僵尸网络利用的浏览器端Ray RCE漏洞列入CISA KEV
- Langflow在2026年再增四项KEV收录：令牌劫持、IDOR、root RCE
- DuneSlide：Cursor两个9.8分漏洞让提示注入逃逸沙箱实现操作系统级RCE · 实验室测试或研究人员演示
- 朝鲜Sapphire Sleet劫持维护者账户，木马化140多个Mastra AI npm包
- JetBrains市场15个安装量7万的AI插件窃取OpenAI和DeepSeek密钥
- SearchLeak：M365 Copilot企业搜索一键攻击链通过Bing外泄数据 · 实验室测试或研究人员演示
- 被劫持的Ollama服务器成为自主攻击流水线的'大脑'
- 仿冒的npm MCP服务器冒充官方modelcontextprotocol包，安装时回传数据
- CISA将遭在野利用的LiteLLM AI网关RCE漏洞（CVE-2026-42271）列入KEV
- 黑客诱骗Meta AI客服机器人交出Instagram账户
- 被植入木马的codexui-android npm包窃取OpenAI Codex令牌
- OpenAI确认两台员工设备和源码仓库在Mini Shai-Hulud npm蠕虫中被攻破
- Mini Shai-Hulud蠕虫波及TanStack、Mistral AI和Guardrails AI软件包
- 中国集群UNC5673和UNC6201通过代理池化Gemini、Claude和OpenAI账户
- 假OpenAI Privacy Filter仓库登顶Hugging Face趋势榜并推送窃密程序
- PyPI上被植入后门的PyTorch Lightning 2.6.3导入时运行凭据窃取程序
- Claude Code通过符号链接逃逸沙箱实现主机代码执行（CVE-2026-39861） · 实验室测试或研究人员演示
- 未授权团体经供应商访问Anthropic受限的Claude Mythos模型
- 研究员：免费Lovable账户可读取2025年11月前项目的源码、Supabase密钥和聊天记录 · 实验室测试或研究人员演示
- Context.ai AI工具失陷，其OAuth授权导致Vercel被入侵
- Marimo笔记本RCE数小时内遭利用；NKAbuse RAT托管于Hugging Face
- 提示注入致Microsoft Copilot Studio和Salesforce Agentforce代理泄露数据 · 实验室测试或研究人员演示
- Flowise CustomMCP最高危RCE漏洞（CVE-2025-59528）遭在野利用
- GrafanaGhost：间接提示注入使Grafana AI泄露企业数据 · 实验室测试或研究人员演示
- 被投毒的LiteLLM版本牵出Mercor泄露事件，AI实验室训练机密暴露
- prt-scan：AI 驱动的攻击活动利用 GitHub 工作流中的 pull_request_target
- Claude Code源码映射泄露后，假'泄露'仓库夹带恶意软件
- OpenAI Codex分支名命令注入在云任务中暴露GitHub令牌 · 实验室测试或研究人员演示
- Vertex AI'双重代理'：过度授权的代理泄露凭据与代码 · 实验室测试或研究人员演示
- Check Point发现ChatGPT代码沙箱的DNS隧道可泄露聊天和文件 · 实验室测试或研究人员演示
- Langflow未认证RCE（CVE-2026-33017）在公告发布20小时内即遭利用
- Meta AI代理错误建议致敏感数据向员工暴露两小时
- Cybernews：98台未认证Open WebUI服务器中45台已在运行挖矿和窃密程序
- CISA确认n8n最高严重性表达式注入RCE漏洞正被积极利用
- 自主AI代理两小时内攻破麦肯锡Lilli聊天机器人平台 · 实验室测试或研究人员演示
- Bing AI搜索推荐假OpenClaw安装程序仓库，推送Atomic和Vidar窃密程序
- Anthropic指控DeepSeek、Moonshot和MiniMax用2.4万账户蒸馏Claude
- 被攻陷的Cline CLI npm版本静默安装OpenClaw代理
- 信息窃取程序截获OpenClaw网关令牌、设备密钥和代理记忆文件
- ClawHub上230余个恶意OpenClaw技能推送密码窃取程序
- AI代理社交网络Moltbook暴露150万个代理API令牌 · 实验室测试或研究人员演示
- Chat & Ask AI应用因Firebase开放泄露2500万用户约3亿条消息 · 实验室测试或研究人员演示
- Hugging Face数据集被滥用，每15分钟投放多态Android RAT载荷
- Bizarre Bazaar行动：被劫持的LLM端点通过商业市场转售
- 数万个OpenClaw代理网关暴露在网上，泄露API密钥和聊天记录
- MaliciousCorgi：安装量150万的VS Code AI扩展外泄打开的文件
- BodySnatcher：ServiceNow Virtual Agent未认证冒充漏洞 · 实验室测试或研究人员演示
- Microsoft 365 Copilot漏洞无视DLP策略总结机密邮件
- Anthropic Git MCP服务器提示注入漏洞可致文件访问与代码执行 · 实验室测试或研究人员演示
- Reprompt：一键攻击劫持Microsoft Copilot会话窃取数据 · 实验室测试或研究人员演示
- GeminiJack：Gemini Enterprise零点击注入外泄Gmail、日历和文档 · 实验室测试或研究人员演示
- 分析服务商Mixpanel遭入侵，OpenAI API用户数据暴露
- HashJack：URL片段中的隐藏提示劫持Comet、Copilot和Gemini · 实验室测试或研究人员演示
- ShadowRay 2.0将暴露的Ray AI集群变成自传播挖矿僵尸网络
- HackedGPT：Tenable发现ChatGPT七个漏洞，包括持久化记忆注入 · 实验室测试或研究人员演示
- Smithery MCP托管平台路径遍历漏洞暴露3000台托管MCP服务器的root权限 · 实验室测试或研究人员演示
- CamoLeak：隐藏的PR评论使GitHub Copilot Chat泄露私有仓库机密 · 实验室测试或研究人员演示
- Gemini Trifecta：日志、搜索历史和浏览漏洞让Gemini外泄用户数据 · 实验室测试或研究人员演示
- ForcedLeak：提示注入加5美元过期域名泄露Agentforce CRM数据 · 实验室测试或研究人员演示
- 首个恶意MCP服务器现身：postmark-mcp npm包将所有邮件密送给攻击者
- Notion 3.0代理被白色文字PDF欺骗，通过网络搜索泄露客户数据 · 实验室测试或研究人员演示
- ShadowLeak：零点击提示注入使ChatGPT Deep Research泄露Gmail数据 · 实验室测试或研究人员演示
- WhiteCobra向Open VSX和VS Code市场投放24个窃币扩展
- Vyro AI在开放Elasticsearch上泄露116GB用户提示和令牌
- Cisco Talos发现1100多台Ollama LLM服务器无身份验证暴露于互联网 · 实验室测试或研究人员演示
- s1ngularity：被植入木马的Nx包武器化Claude和Gemini CLI窃取密钥
- Drift AI聊天机器人OAuth令牌被盗，700余家Salesforce租户遭洗劫
- Brave证明Perplexity Comet可被Reddit评论劫持以窃取Gmail一次性验证码 · 实验室测试或研究人员演示
- 超过37万条Grok对话通过分享链接被谷歌搜索收录
- Microsoft 365 Copilot总结文件时不写入审计日志记录 · 实验室测试或研究人员演示
- 联想Lena客服聊天机器人被诱导输出XSS载荷，窃取客服会话cookie · 实验室测试或研究人员演示
- Copilot提示注入将VS Code切换至自动批准模式实现RCE（CVE-2025-53773） · 实验室测试或研究人员演示
- AgentFlayer：一份投毒的Google Drive文档就能让ChatGPT泄露API密钥 · 实验室测试或研究人员演示
- Invitation Is All You Need：投毒日历邀请让Gemini控制智能家居 · 实验室测试或研究人员演示
- Claude Code命令注入绕过确认提示（CVE-2025-54795和-54794） · 实验室测试或研究人员演示
- CurXecute和MCPoison：Cursor IDE的MCP配置缺陷允许静默代码执行 · 实验室测试或研究人员演示
- 数千条ChatGPT共享对话出现在谷歌搜索中；OpenAI取消该功能
- Wiz发现认证绕过漏洞，暴露Wix Base44平台上的私有企业应用 · 实验室测试或研究人员演示
- Gemini CLI被投毒README劫持，静默外泄凭据 · 实验室测试或研究人员演示
- 暴露的llama.cpp服务器通过/slots调试端点泄露用户提示 · 实验室测试或研究人员演示
- 黑客在Amazon Q Developer VS Code扩展中植入数据擦除提示词
- Meta AI漏洞让任何登录用户读取他人的私密提示和回复 · 实验室测试或研究人员演示
- DOGE职员Marko Elez泄露xAI API密钥，可访问52个Grok模型
- Open VSX上的假“Solidity Language”扩展从Cursor开发者处盗走50万美元
- 隐藏邮件文本使Gemini for Workspace摘要传递虚假安全警报 · 实验室测试或研究人员演示
- 麦当劳McHire招聘AI因'123456'登录暴露多达6400万份求职记录 · 实验室测试或研究人员演示
- 支持工单提示注入使Cursor加Supabase MCP泄露集成令牌 · 实验室测试或研究人员演示
- Nikkei 发现 14 所大学的 17 篇预印本中藏有指示 AI 审稿人夸赞论文的隐藏提示词 · 实验室测试或研究人员演示
- Skynet恶意软件样本内嵌提示注入，企图欺骗AI恶意软件分析工具
- Pickai后门通过ComfyUI漏洞传播至近700台AI图像服务器
- Asana MCP服务器逻辑缺陷一个月内跨组织暴露客户数据
- Langflow AI代理构建器RCE漏洞（CVE-2025-3248）被用于传播Flodrix僵尸网络
- Meta AI应用的Discover信息流公开用户私密医疗和法律对话
- EchoLeak：Microsoft 365 Copilot零点击提示注入漏洞（CVE-2025-32711） · 实验室测试或研究人员演示
- 暴露的Open WebUI实例被劫持运行AI生成的挖矿程序和信息窃取程序
- Lovable构建的应用泄露用户数据：170个项目的303个端点缺少行级安全 · 实验室测试或研究人员演示
- 冒充阿里巴巴AI Labs SDK的PyPI包在PyTorch模型中隐藏信息窃取程序
- GitLab Duo提示注入通过合并请求中的隐藏文本泄露私有源代码 · 实验室测试或研究人员演示
- npm包“sw-cur”和“aiide-cur”在macOS上为Cursor植入后门，下载3200次
- xAI员工在GitHub泄露API密钥，60个私有Grok模型暴露两个月
- 韩国PIPC：DeepSeek将韩国用户提示词发送至字节跳动关联的火山引擎
- 美联社（AP）与 The Seattle Times 获得华盛顿州温哥华市约 3500 份未经涂黑、被 Gaggle AI 监控标记的学生文件
- 微软点名Storm-2139成员：用窃取密钥劫持Azure OpenAI
- Copilot通过Bing缓存提供2万个已转为私有的GitHub仓库代码 · 实验室测试或研究人员演示
- 黑客“Gloomer”声称攻破OmniGPT，泄露3400万行聊天记录和3万用户联系方式
- LLMjacking团伙在模型发布数天后即将被盗DeepSeek密钥装入反向代理
- nullifAI：Hugging Face损坏pickle模型绕过扫描暗藏反向shell
- 伪造的deepseeek和deepseekai PyPI包窃取DeepSeek开发者机密
- DeepSeek ClickHouse数据库暴露聊天记录与API密钥
- OpenAI称有证据表明DeepSeek通过被封禁的API账户蒸馏其模型
- DeepSeek在长达一个月的DDoS和暴力破解攻击达到峰值后暂停新用户注册
- Ultralytics AI 库经 GitHub Actions 遭入侵，向 PyPI 推送挖矿程序
- 举报人称：在供应商 AllHere 崩溃之前，LAUSD 耗资 600 万美元的“Ed”AI 聊天机器人已将学生数据传往海外
- 微软 (Microsoft) AI 研究人员因 SAS 令牌配置错误泄露 38TB 数据
- 恶意“torchtriton”依赖混淆包经由 PyPI 波及 PyTorch
其他研究中的相同案例档案
- 已在真实事件中出现 AI 系统本身成为攻击目标 · International AI Safety Report · 共有 85 份
- 已在真实事件中出现 AI 事故难以避免 · CAIS · 共有 13 份
- 已在真实事件中出现 强大的 AI 被泄露或窃取 · CAIS · 共有 11 份
- 已在真实事件中出现 AI 智能体出错，而阻止它们的机会更少 · International AI Safety Report · 共有 3 份
- 已在真实事件中出现 AI 开发者自己的安全措施失效 · CAIS · 共有 2 份
- 已在真实事件中出现 AI 承担了每次攻击中更多的环节，但尚未完全自主 · International AI Safety Report · 共有 1 份
来自其他来源、关联到部分相同案例档案的警告。