Vie privée et sécurité

Le domaine de risque

Une IA qui divulgue ou déduit des données personnelles sensibles, et des faiblesses des systèmes d’IA et de leurs chaînes d’outils que des attaquants exploitent.

Paraphrase de la source. Source: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 août 2024, domaine 2, tableau 2, page 8. Synthèse par MIT AI Risk Initiative: airisk.mit.edu.

Ce que montre le registre

L’un des deux piliers du registre : conversations et clés divulguées, bases de données exposées, injection de prompt, agents détournés, paquets empoisonnés et comptes d’IA volés.

Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel.

Dossiers correspondants par trimestre

Historique du statut

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

• 16 oct. 2026L'infostealer Aoki étend son périmètre au vol d'identifiants Claude, ChatGPT et Cursor
• 16 oct. 2026La campagne de détournement de LLM JINX-2401 cible des environnements AWS par élévation de privilèges IAM
• 15 oct. 2026Une fuite sur BodySwap, plateforme de deepfakes sexuels, expose environ 10 300 comptes utilisateurs
• 15 oct. 2026Un ajout non divulgué à jqwik ordonne aux agents de codage IA de supprimer la sortie des applications
• 15 oct. 2026Une injection de prompt cachée dans un acte judiciaire ordonne aux IA relectrices de donner raison à son auteur
• 14 oct. 2026De fausses pages de téléchargement de Codex sur Google Sites diffusent un logiciel malveillant macOS via ClickFix
• 14 oct. 2026Injection SQL dans le proxy LiteLLM (CVE-2026-42208) activement exploitée
• 14 oct. 2026La porte dérobée macOS.Gaslight injecte de faux prompts dans les outils de triage de logiciels malveillants par LLM
• 14 oct. 2026Faille SSRF de MLflow (CVE-2026-64849) activement exploitée, exposant des services internes
• 14 oct. 2026Un skill OpenClaw malveillant distribue le RAT Remcos et GhostLoader
• 14 oct. 2026RCE par injection de code dans Ray (CVE-2025-62593) activement exploitée
• 14 oct. 2026Le Red Agent de Wiz atteint le Jira interne de Snowflake via une faille GitHub Actions dans une PR assistée par Copilot · Test en laboratoire ou démonstration de chercheurs
• 7 oct. 2026Le botnet PoeLLM infecte 3 400 serveurs LiteLLM et Ollama exposés pour du cryptominage
• 29 sept. 2026PixelLeak : des agents de codage IA publient 13 000 captures d'écran internes sur GitHub public
• 10 sept. 2026GTG-16005 : Anthropic accuse Alibaba d'une distillation de Claude à 151 M d'échanges pour Qwen
• 10 sept. 2026GTG-16006 : Zhipu accusé d'une distillation cyber de Claude Opus via 273 comptes
• 10 sept. 2026GTG-16008 : Xiaomi a rejoué des sessions d'utilisateurs MiMo dans Claude via 1 500 comptes
• 10 sept. 2026GTG-50020 : un extorqueur piège le bac à sable d'évaluation d'un fournisseur d'IA, puis 30 sociétés
• 10 sept. 2026GTG-50021 : un faux revendeur de Claude à prix cassé détournait le trafic et volait des identifiants
• 8 sept. 2026Un prompt implanté fait copier par ChatGPT les données Gmail de victimes vers l'attaquant · Test en laboratoire ou démonstration de chercheurs
• 8 sept. 2026DUSTMAKER de TeamPCP se cache dans les dossiers .claude et .cursor et trompe les scanners LLM
• 8 sept. 2026Okta : un dump gratuit de stealer sur Telegram contient des milliers de jetons de session IA actifs
• 2 sept. 2026La passerelle MCP de LiteLLM accepte tout jeton Bearer (CVE-2026-59822) ; exploitation confirmée
• 31 août 2026Un attaquant récupère une clé API de METR via l'application d'agents exposée d'un chercheur et consomme 600 000 $ de crédits offerts
• 21 août 2026Truffle Security : 9 300 clés AWS actives exposées, Hugging Face première source · Test en laboratoire ou démonstration de chercheurs
• 19 août 2026La CISA liste comme exploitée une SSRF des webhooks MLflow (CVE-2026-64849) vers les métadonnées
• 17 août 2026La RCE de Ray via navigateur (CVE-2025-62593) exploitée par le botnet RondoDox entre au KEV
• 4 août 2026Langflow : quatre nouvelles entrées au KEV en 2026, du vol de jeton à la chaîne auto_login
• 2 juil. 2026DuneSlide : deux failles 9.8 de Cursor font évader une injection de prompt du bac à sable · Test en laboratoire ou démonstration de chercheurs
• 17 juin 2026Sapphire Sleet piège plus de 140 paquets npm Mastra via un compte mainteneur détourné
• 16 juin 202615 plugins IA du JetBrains Marketplace, 70 000 installations, volent des clés OpenAI et DeepSeek
• 15 juin 2026SearchLeak : une chaîne en un clic dans la recherche de M365 Copilot exfiltre des données via Bing · Test en laboratoire ou démonstration de chercheurs
• 12 juin 2026Un serveur Ollama détourné sert de cerveau à un pipeline de piratage autonome
• 9 juin 2026Des serveurs MCP npm typosquattés se signalent à l'installation en imitant les paquets officiels
• 8 juin 2026La CISA ajoute au KEV la RCE activement exploitée de la passerelle IA LiteLLM (CVE-2026-42271)
• 8 juin 2026Des pirates trompent le chatbot de support IA de Meta pour s'emparer de comptes Instagram
• 2 juin 2026Le paquet npm piégé codexui-android vole des jetons OpenAI Codex
• 14 mai 2026OpenAI confirme deux appareils d'employés et des dépôts compromis par le ver npm Mini Shai-Hulud
• 12 mai 2026Le ver Mini Shai-Hulud frappe les paquets TanStack, Mistral AI et Guardrails AI
• 11 mai 2026Les groupes chinois UNC5673 et UNC6201 mutualisaient des comptes Gemini, Claude et OpenAI
• 7 mai 2026Un faux dépôt « OpenAI Privacy Filter » en tête de Hugging Face diffuse un infostealer Rust
• 30 avr. 2026PyTorch Lightning 2.6.3 piégé sur PyPI exécute un voleur d'identifiants basé sur Bun à l'import
• 21 avr. 2026Évasion du bac à sable de Claude Code via des liens symboliques (CVE-2026-39861) · Test en laboratoire ou démonstration de chercheurs
• 21 avr. 2026Un groupe non autorisé accède au modèle restreint Claude Mythos d'Anthropic via un prestataire
• 20 avr. 2026Un compte Lovable gratuit lisait code, clés Supabase et chats des projets d'avant novembre 2025 · Test en laboratoire ou démonstration de chercheurs
• 19 avr. 2026L'autorisation OAuth d'un outil IA Context.ai compromis mène à une brèche chez Vercel
• 16 avr. 2026RCE de marimo (CVE-2026-39987) exploitée en quelques heures ; NKAbuse hébergé sur Hugging Face
• 15 avr. 2026Injection de prompt : fuite de données d'agents Copilot Studio et Salesforce Agentforce · Test en laboratoire ou démonstration de chercheurs
• 7 avr. 2026La RCE de sévérité maximale du nœud CustomMCP de Flowise (CVE-2025-59528) exploitée activement
• 7 avr. 2026GrafanaGhost : une injection de prompt indirecte fait fuiter des données via l'IA de Grafana · Test en laboratoire ou démonstration de chercheurs
• 3 avr. 2026Des versions empoisonnées de LiteLLM liées à la brèche Mercor exposant des secrets de labos IA
• 2 avr. 2026prt-scan : une campagne dopée à l'IA exploite pull_request_target dans les workflows GitHub
• 31 mars 2026Fuite d'une source map de Claude Code suivie de faux dépôts « leak » piégés par des malwares
• 31 mars 2026Une injection de commande via le nom de branche dans OpenAI Codex exposait des jetons GitHub · Test en laboratoire ou démonstration de chercheurs
• 31 mars 2026« Double Agent » sur Vertex AI : des agents surprivilégiés fuitent identifiants et code · Test en laboratoire ou démonstration de chercheurs
• 30 mars 2026Check Point découvre un tunnel DNS hors du bac à sable de ChatGPT fuitant conversations et fichiers · Test en laboratoire ou démonstration de chercheurs
• 25 mars 2026La RCE non authentifiée de Langflow (CVE-2026-33017) exploitée moins de 20 heures après l'avis
• 20 mars 2026Un agent IA de Meta donne un conseil erroné qui expose des données sensibles pendant deux heures
• 18 mars 2026Cybernews : 45 des 98 serveurs Open WebUI sans authentification hébergent déjà mineurs et stealers
• 11 mars 2026La CISA confirme l'exploitation active d'une injection d'expression RCE de gravité maximale dans n8n
• 9 mars 2026Un agent IA autonome pénètre la plateforme de chatbot Lilli de McKinsey en deux heures · Test en laboratoire ou démonstration de chercheurs
• 5 mars 2026La recherche IA de Bing promeut de faux installeurs OpenClaw diffusant les stealers Atomic et Vidar
• 23 févr. 2026Anthropic accuse DeepSeek, Moonshot et MiniMax d'avoir distillé Claude via 24 000 comptes
• 17 févr. 2026Une version npm compromise de la CLI Cline installe silencieusement l'agent OpenClaw
• 16 févr. 2026Un infostealer capture le jeton de passerelle, les clés d'appareil et la mémoire d'OpenClaw
• 4 févr. 2026Plus de 230 skills OpenClaw malveillants sur ClawHub diffusent des voleurs de mots de passe
• 2 févr. 2026Le réseau social d'agents IA Moltbook expose 1,5 M de jetons d'API d'agents · Test en laboratoire ou démonstration de chercheurs
• 29 janv. 2026L'application Chat & Ask AI fuite ~300 M de messages de 25 M d'utilisateurs via un Firebase ouvert · Test en laboratoire ou démonstration de chercheurs
• 29 janv. 2026Des datasets Hugging Face détournés pour servir des RAT Android polymorphes toutes les 15 minutes
• 28 janv. 2026Opération Bizarre Bazaar : des accès LLM détournés revendus sur une place de marché commerciale
• 27 janv. 2026Des dizaines de milliers de passerelles OpenClaw exposées fuitent clés d'API et conversations
• 23 janv. 2026MaliciousCorgi : deux extensions IA pour VS Code à 1,5 M d'installations exfiltrent des fichiers
• 21 janv. 2026BodySnatcher : usurpation sans authentification via le Virtual Agent de ServiceNow (CVE-2025-12420) · Test en laboratoire ou démonstration de chercheurs
• 21 janv. 2026Un bug de Microsoft 365 Copilot résume des e-mails confidentiels malgré les politiques DLP
• 20 janv. 2026Injection de prompt dans le serveur Git MCP d'Anthropic : accès aux fichiers et exécution de code · Test en laboratoire ou démonstration de chercheurs
• 14 janv. 2026Reprompt : une attaque en un clic détourne des sessions Microsoft Copilot pour voler des données · Test en laboratoire ou démonstration de chercheurs
• 8 déc. 2025GeminiJack : une injection sans clic dans Gemini Enterprise exfiltrait Gmail, Agenda et Docs · Test en laboratoire ou démonstration de chercheurs
• 26 nov. 2025Données d'utilisateurs de l'API OpenAI exposées lors d'une brèche chez Mixpanel
• 25 nov. 2025HashJack : des prompts cachés dans les fragments d'URL détournent Comet, Copilot et Gemini · Test en laboratoire ou démonstration de chercheurs
• 18 nov. 2025ShadowRay 2.0 transforme des clusters IA Ray exposés en botnet de minage auto-propagé
• 5 nov. 2025HackedGPT : Tenable découvre sept failles de ChatGPT dont une injection persistante dans la mémoire · Test en laboratoire ou démonstration de chercheurs
• 15 oct. 2025Une traversée de chemin chez Smithery exposait un accès root à 3 000 serveurs MCP hébergés · Test en laboratoire ou démonstration de chercheurs
• 9 oct. 2025CamoLeak : des commentaires de PR cachés font fuiter des secrets privés à GitHub Copilot Chat · Test en laboratoire ou démonstration de chercheurs
• 30 sept. 2025Gemini Trifecta : journaux, historique et navigation font exfiltrer des données à Gemini · Test en laboratoire ou démonstration de chercheurs
• 25 sept. 2025ForcedLeak : une injection Web-to-Lead et un domaine expiré font fuiter le CRM d'Agentforce · Test en laboratoire ou démonstration de chercheurs
• 25 sept. 2025Premier serveur MCP malveillant : postmark-mcp met l'attaquant en copie de tous les e-mails
• 19 sept. 2025Les agents Notion 3.0 piégés par un PDF en texte blanc font fuiter des données clients · Test en laboratoire ou démonstration de chercheurs
• 18 sept. 2025ShadowLeak : une injection de prompt sans clic fait fuiter des données Gmail à ChatGPT Deep Research · Test en laboratoire ou démonstration de chercheurs
• 13 sept. 2025WhiteCobra inonde Open VSX et le VS Code Marketplace de 24 extensions voleuses de cryptos
• 10 sept. 2025Vyro AI laisse 116 Go de prompts et de jetons d'ImagineArt et Chatly sur un Elasticsearch ouvert
• 2 sept. 2025Cisco Talos recense plus de 1 100 serveurs LLM Ollama ouverts sur Internet sans authentification · Test en laboratoire ou démonstration de chercheurs
• 27 août 2025s1ngularity : des paquets Nx piégés détournent les CLI Claude et Gemini pour voler des secrets
• 26 août 2025Des jetons OAuth du chatbot IA Drift volés pour piller plus de 700 tenants Salesforce
• 20 août 2025Brave montre qu'un commentaire Reddit peut détourner Perplexity Comet pour voler des codes Gmail · Test en laboratoire ou démonstration de chercheurs
• 20 août 2025Plus de 370 000 conversations Grok exposées dans Google via les liens de partage
• 18 août 2025Microsoft 365 Copilot résumait des fichiers sans écrire d'entrée dans le journal d'audit · Test en laboratoire ou démonstration de chercheurs
• 18 août 2025Le chatbot Lena de Lenovo poussé à émettre une charge XSS volant les cookies de session des agents · Test en laboratoire ou démonstration de chercheurs
• 12 août 2025Une injection dans Copilot bascule VS Code en auto-approbation pour une RCE (CVE-2025-53773) · Test en laboratoire ou démonstration de chercheurs
• 6 août 2025AgentFlayer : un seul document Google Drive empoisonné fait fuiter des clés d'API à ChatGPT · Test en laboratoire ou démonstration de chercheurs
• 6 août 2025Invitation Is All You Need : des invitations d'agenda piégées font piloter la domotique par Gemini · Test en laboratoire ou démonstration de chercheurs
• 5 août 2025Claude Code : une injection de commande contourne la confirmation (CVE-2025-54795 et -54794) · Test en laboratoire ou démonstration de chercheurs
• 1 août 2025CurXecute et MCPoison : des failles de configuration MCP de Cursor permettent d'exécuter du code · Test en laboratoire ou démonstration de chercheurs
• 31 juil. 2025Des milliers de conversations ChatGPT partagées apparaissent dans Google ; OpenAI retire la fonction
• 29 juil. 2025Wiz découvre un contournement d'authentification exposant des apps privées sur Base44 de Wix · Test en laboratoire ou démonstration de chercheurs
• 28 juil. 2025Gemini CLI détourné via un README empoisonné pour exfiltrer silencieusement des identifiants · Test en laboratoire ou démonstration de chercheurs
• 25 juil. 2025Des serveurs llama.cpp exposés font fuiter les prompts via le point de débogage /slots · Test en laboratoire ou démonstration de chercheurs
• 23 juil. 2025Un pirate glisse un prompt d'effacement de données dans l'extension VS Code Amazon Q Developer
• 15 juil. 2025Un bug de Meta AI permettait à tout utilisateur connecté de lire les prompts privés des autres · Test en laboratoire ou démonstration de chercheurs
• 14 juil. 2025Marko Elez, employé du DOGE, divulgue une clé d'API xAI donnant accès à 52 modèles Grok
• 10 juil. 2025Une fausse extension « Solidity Language » sur Open VSX dérobe 500 000 $ à un développeur Cursor
• 10 juil. 2025Du texte caché dans un e-mail fait produire de fausses alertes aux résumés Gemini pour Workspace · Test en laboratoire ou démonstration de chercheurs
• 9 juil. 2025Le bot de recrutement McHire de McDonald's expose jusqu'à 64 M de candidatures via « 123456 » · Test en laboratoire ou démonstration de chercheurs
• 6 juil. 2025Une injection via ticket de support fait fuiter des jetons à Cursor couplé au MCP Supabase · Test en laboratoire ou démonstration de chercheurs
• 5 juil. 2025Nikkei révèle la présence de prompts cachés demandant aux évaluateurs IA de faire l’éloge des articles dans 17 prépublications issues de 14 universités · Test en laboratoire ou démonstration de chercheurs
• 25 juin 2025Le malware Skynet embarque une injection de prompt pour tromper les outils d'analyse par IA
• 18 juin 2025La porte dérobée Pickai se propage via des failles de ComfyUI à près de 700 serveurs d'images IA
• 17 juin 2025Une faille logique du serveur MCP d'Asana a exposé des données clients entre organisations
• 17 juin 2025La RCE de Langflow (CVE-2025-3248) exploitée pour diffuser le botnet Flodrix
• 12 juin 2025Le fil Discover de l'appli Meta AI expose des conversations médicales et juridiques privées
• 11 juin 2025EchoLeak : injection de prompt zéro clic dans Microsoft 365 Copilot (CVE-2025-32711) · Test en laboratoire ou démonstration de chercheurs
• 2 juin 2025Une instance Open WebUI exposée détournée pour un cryptomineur et un infostealer générés par IA
• 29 mai 2025Fuites de données dans des apps Lovable : 303 endpoints de 170 projets sans sécurité par ligne · Test en laboratoire ou démonstration de chercheurs
• 22 mai 2025Des paquets PyPI imitant le SDK Alibaba AI Labs cachent un infostealer dans un modèle PyTorch
• 22 mai 2025Une injection de prompt dans GitLab Duo fait fuiter du code privé via du texte caché dans des MR · Test en laboratoire ou démonstration de chercheurs
• 9 mai 2025Les paquets npm sw-cur et aiide-cur installent une porte dérobée dans Cursor sur macOS
• 1 mai 2025Un employé de xAI expose 60 modèles Grok privés via une clé d'API laissée deux mois sur GitHub
• 24 avr. 2025Corée : la PIPC révèle que DeepSeek envoyait les prompts des utilisateurs à Volcano Engine
• 12 mars 2025L'AP et le Seattle Times obtiennent environ 3 500 fichiers d'élèves non expurgés signalés par la surveillance par IA de Gaggle à Vancouver (Washington)
• 27 févr. 2025Microsoft nomme les membres de Storm-2139 qui ont détourné Azure OpenAI avec des clés volées
• 26 févr. 2025Copilot sert du code de 20 000 dépôts GitHub passés en privé, via le cache de Bing · Test en laboratoire ou démonstration de chercheurs
• 9 févr. 2025Le pirate « Gloomer » revendique une intrusion chez OmniGPT : 34 M de messages et 30 000 contacts
• 7 févr. 2025LLMjacking : des clés DeepSeek volées chargées dans des proxys inverses dès le lancement
• 6 févr. 2025nullifAI : des modèles à pickle corrompu sur Hugging Face échappent à Picklescan
• 29 janv. 2025De faux paquets PyPI « deepseeek » et « deepseekai » volent les secrets des développeurs DeepSeek
• 29 janv. 2025DeepSeek laisse ouverte une base ClickHouse contenant journaux de chat et secrets d'API
• 29 janv. 2025OpenAI affirme détenir des preuves que DeepSeek a distillé ses modèles via des comptes API bloqués
• 28 janv. 2025DeepSeek suspend les inscriptions au pic d'une campagne DDoS et de force brute d'un mois
• 4 déc. 2024La bibliothèque d'IA Ultralytics piratée via GitHub Actions pour diffuser un cryptomineur sur PyPI
• 1 juil. 2024Un lanceur d’alerte affirme que le chatbot d’IA « Ed » du LAUSD, facturé 6 M$, a envoyé des données d’élèves à l’étranger avant l’effondrement de son éditeur AllHere
• 18 sept. 2023Des chercheurs en IA de Microsoft exposent 38 To de données via un jeton SAS mal configuré
• 30 déc. 2022Un paquet malveillant « torchtriton » frappe PyTorch via PyPI par confusion de dépendances

Les mêmes dossiers dans d’autres recherches

• Observée dans des incidents réels Les systèmes d’IA deviennent eux-mêmes des cibles · International AI Safety Report · 85 en commun
• Observée dans des incidents réels Les accidents liés à l’IA sont difficiles à éviter · CAIS · 13 en commun
• Observée dans des incidents réels Des IA puissantes sont divulguées ou volées · CAIS · 11 en commun
• Observée dans des incidents réels Les agents d’IA échouent, avec moins d’occasions de les arrêter · International AI Safety Report · 3 en commun
• Observée dans des incidents réels Les propres mesures de sécurité des développeurs d’IA échouent · CAIS · 2 en commun
• Observée dans des incidents réels L’IA mène une part croissante de chaque attaque, sans autonomie complète · International AI Safety Report · 1 en commun

Des mises en garde d’autres sources liées à certains des mêmes dossiers.

Autres mises en garde de ce groupe

• Hors de ce que nous mesurons Discrimination et contenus toxiques
• Signes précoces Mésinformation
• Observée dans des incidents réels Acteurs malveillants et usages abusifs
• Observée dans des incidents réels Interaction humain-machine
• Hors de ce que nous mesurons Préjudices socio-économiques et environnementaux
• Observée dans des incidents réels Sûreté des systèmes d’IA, défaillances et limites