Course à l’IACenter for AI Safety§3.1.2
L’IA rend les cyberattaques plus faciles, plus rapides et plus massives
Observée dans des incidents réels87 dossiers correspondants
La mise en garde
L’IA pourrait abaisser le seuil d’entrée des cyberattaques et en augmenter l’ampleur, la vitesse et le taux de réussite, y compris contre les infrastructures dont dépendent les sociétés.
Paraphrasé à partir de l’article. Source: An Overview of Catastrophic AI Risks, Center for AI Safety, Section 3.1.2, page 15.
Ce que montre le registre
La prédiction la mieux documentée du registre : des novices qui créent des rançongiciels avec des chatbots, des malwares qui demandent à un modèle quoi faire ensuite, des groupes étatiques qui utilisent l’IA à chaque étape d’une attaque, et des scripts écrits par IA qui sondent des automates industriels.
Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel. Premier cas réel enregistré : 10 janv. 2025.
Dossiers correspondants par trimestre
Observée dans des incidents réelsTest en laboratoire ou démonstration de chercheurs
Historique du statut
| Date | Statut | Dossiers correspondants | Changement |
|---|---|---|---|
| 18 oct. 2026 | Observée dans des incidents réels | 87 | Début du suivi |
Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json
Tous les dossiers correspondants
- Des centaines d'agents IA exploitent des serveurs PaperCut NG/MF pour voler des identifiants Windows
- Storm-3168 mène des attaques agentiques sur Azure via des principaux de service compromis
- Une campagne d'espionnage pilotée par IA cible l'infrastructure Linux gouvernementale
- Un agent IA mène un vol de données en plusieurs étapes dans la première violation dopée à l'IA en Espagne, selon l'AEPD
- Avis américain : des attaquants utilisent des scripts d'exploitation générés par IA contre des automates Siemens S7 exposés
- Un acteur inconnu utilise ARTEX, un outil piloté par IA, contre la finance sud-coréenne
- Les opérateurs du rançongiciel Aurora détournent l'IA Cursor Agent pour la reconnaissance et l'exploitation
- L'abus d'une fonctionnalité ChatGPT couplé à ClickFix diffuse un cheval de Troie aux utilisateurs effectuant des recherches sur Google
- ClaudeFix : des conversations Claude partagées utilisées pour diffuser des instructions ClickFix malveillantes
- Talos découvre CLOSEDQUORUM, premier implant signalé à C2 autonome par IA
- Une attaque par IA agentique exploite des zero-days Zammad contre l'institut néerlandais de divulgation des vulnérabilités
- Un modèle d'IA de Meta exploite une faille de sécurité d'un tiers pendant une évaluation
- Une nouvelle variante de NGate se cache dans une application de paiement NFC piégée, possiblement conçue avec l'IA
- Le panneau C2 du logiciel malveillant RatHat utilise l'IA pour construire des malwares et classer les victimes sur près de 100 déploiements
- TA419, lié à la Chine, se fait passer pour des experts en IA pour hameçonner des initiés de la politique américaine de l'IA
- UAT-11985 utilise des leurres événementiels assistés par IA pour un hameçonnage Google de type AitM à Taïwan
- Unit 42 enquête sur la compromission d'un réseau d'entreprise en quelques heures par des agents IA autonomes
- Des attaquants utilisent des outils d'IA pour exfiltrer des données d'organisations d'Amérique latine
- GTG-10007 : des étudiants sinophones font tourner une fonderie d'exploits Claude contre 50 cibles
- GTG-30006 : des comptes iraniens ont bâti des portails de phishing et l'implant SECOMS64 avec Claude
- GTG-50029 : un hacktiviste francophone isolé pénètre 14 entités politiques européennes
- Un acteur pro-russe a utilisé des agents IA pour reconstruire ses malwares et voler des identités
- Des affiliés ShinyHunters extraient plus de 2 100 jetons Azure de 40+ tenants avec des agents IA
- Un groupe lié à Sandworm a utilisé Gemini pour ses scripts de pulvérisation de mots de passe
- SilkParasite : espionnage lié à la Chine en Asie centrale avec leurres et RAT assistés par IA
- NSA, CISA et FBI alertent sur des scripts IA sondant des automates Siemens S7 en faux moniteurs OT
- Trend Micro : un APT fait passer un agent IA pour un pentest autorisé en Asie du Sud-Est
- Trend Micro : Earth Krahang et Earth Naga intègrent l'IA générative à leurs exploits et chargeurs
- TuxBot v3 : un botnet IoT lié à Keksec construit avec un LLM conserve ses avertissements de sécurité
- JADEPUFFER : un agent LLM mène une intrusion Langflow jusqu'à l'extorsion de bases de données
- Chiba : un jeune de 19 ans arrêté pour avoir créé un ransomware avec l'IA après l'affaire Asahi
- Sophos surprend un acteur lié au ransomware bâtissant des évasions EDR avec Cursor et Claude
- MiniFast, porte dérobée de Nimbus Manticore, trahit un codage assisté par IA en plein conflit
- Le GTIG intercepte le premier zero-day écrit par IA : un contournement 2FA d'un outil open source
- APT45, groupe nord-coréen, a soumis des milliers de prompts à Gemini pour valider des exploits
- CANFAIL et LONGSTREAM : des malwares russes noyés dans du remplissage LLM pour tromper l'analyse
- La porte dérobée Android PROMPTSPY laisse Gemini piloter l'écran et bloquer la désinstallation
- UNC2814, lié à la Chine, joue l'auditeur C/C++ pour faire chercher des failles TP-Link à Gemini
- Talos IR : vol d'identifiants dans le secteur public via une page de phishing vibe-codée sur Softr
- Unit 42 : un dropper Go demande à GPT-4 s'il doit déployer Sliver selon la télémétrie de l'hôte
- Des sites ClickFix générés par IA sur des domaines typosquattés diffusent SmartRAT
- Microsoft : Coral Sleet, groupe nord-coréen, mène un flux d'IA agentique des leurres aux charges
- HP Wolf : des scripts d'infection « vibe-hacking » générés par IA passent les passerelles e-mail
- Dust Specter, lié à l'Iran, frappe des officiels irakiens avec des malwares portant des traces d'IA
- Un pirate utilise Claude pour voler 150 Go de données fiscales et électorales au Mexique
- COINBAIT : un kit de phishing de plateforme crypto construit avec le constructeur d'apps IA Lovable
- Google : Gemini utilisé par des pirates étatiques ; extraction à 100 000 prompts bloquée
- Le chargeur HONESTCUE demande à Gemini du code C# de seconde étape et le compile en mémoire
- CERT-FR : 42 groupes d'attaquants utilisent l'IA générative, aucun encore autonome contre la France
- Le framework de malware cloud VoidLink construit en grande partie par un agent IA
- Unit 42 teste WormGPT 4 et KawaiiGPT, des LLM criminels qui écrivent des scripts de ransomware
- Un groupe étatique chinois a utilisé Claude Code pour mener un espionnage largement autonome
- Un acteur lié à la Chine contourne le refus de Gemini avec un prétexte de CTF
- MuddyWater a livré son domaine C2 et sa clé de chiffrement à Gemini en déboguant un malware
- Google signale PROMPTFLUX et d'autres malwares qui appellent Gemini à l'exécution
- Le stealer QUIETVAULT exploite les outils IA locaux pour traquer des secrets et des jetons GitHub
- La porte dérobée SesameOp a utilisé l'API Assistants d'OpenAI comme C2 dissimulé pendant des mois
- Kaspersky : les campagnes GhostCall et GhostHire de BlueNoroff accélérées par l'IA générative
- Un groupe nord-coréen a utilisé ChatGPT pour outiller son C2 contre les diplomates de Séoul
- Des criminels russophones ont assemblé un RAT et des stealers à partir de fragments ChatGPT
- Des réseaux d'escroquerie au Cambodge, au Myanmar et au Nigeria ont bâti leurs personas avec ChatGPT
- UNK_DropPitch a utilisé ChatGPT pour son phishing et ses outils contre le secteur des puces à Taïwan
- Microsoft bloque une campagne de phishing utilisant des fichiers SVG obfusqués générés par LLM
- SentinelLABS découvre MalTerminal, un générateur de malware piloté par GPT-4 datant de 2023
- Kimsuky utilise une carte militaire sud-coréenne forgée par ChatGPT dans du spear-phishing
- Un criminel isolé vendait des ransomwares créés avec Claude pour 400 à 1 200 $ sur des forums
- Claude Code utilisé pour automatiser l'extorsion de données contre 17 organisations
- ESET découvre PromptLock, un ransomware utilisant un modèle gpt-oss local pour écrire ses scripts · Test en laboratoire ou démonstration de chercheurs
- Proofpoint : Lovable détourné pour un phishing MFA Tycoon touchant plus de 5 000 organisations
- Le paquet npm @kodane/patch-manager, écrit par IA, vide des portefeuilles Solana
- LameHug : un malware lié à APT28 interroge le LLM Qwen pour générer ses commandes
- Le RaaS GLOBAL GROUP déploie des négociateurs chatbot IA pour imposer des rançons à sept chiffres
- Cato CTRL : les nouvelles variantes de WormGPT sont des surcouches jailbreakées de Grok et Mixtral
- ScopeCreep : un acteur russophone a bâti un malware Windows avec des comptes ChatGPT jetables
- VAGue Focus : des comptes liés à la Chine utilisent ChatGPT pour cibler élus et presse américains
- OpenAI bannit des comptes d'APT15 et APT5 utilisant ChatGPT pour automatiser des pentests
- Wrong Number : une arnaque aux tâches cambodgienne a traduit ses SMS en six langues via ChatGPT
- Le FBI alerte sur une campagne de vishing par voix IA usurpant de hauts responsables américains
- Anthropic bannit un acteur qui utilisait Claude pour voler des identifiants de caméras IoT
- Un codeur novice fait évoluer un kit de doxing et un générateur de malware avec Claude
- Un réseau de fraude au recrutement a utilisé Claude pour peaufiner de faux leurres de recruteurs
- AkiraBot utilise GPT-4o-mini pour spammer 80 000 sites via formulaires de contact et widgets de chat
- Xanthorox AI : une plateforme criminelle auto-hébergée présentée comme le tueur de WormGPT
- Une arnaque sentimentale basée au Cambodge utilisait ChatGPT pour générer des leurres multilingues
- Kimsuky et BlueNoroff ont utilisé ChatGPT pour déboguer du code de force brute RDP
- GhostGPT : un chatbot sans filtre vendu sur Telegram pour écrire malwares et hameçonnage
- Check Point : le groupe de rançongiciel FunkSec a construit son chiffreur Rust avec l'aide de l'IA
Autres mises en garde de ce groupe
- Hors de ce que nous mesurons Les armées confient des décisions de vie ou de mort à l’IA
- Signes précoces Les entreprises lancent des IA avant qu’elles ne soient sûres pour gagner la course
- Hors de ce que nous mesurons L’automatisation rend la société dépendante de l’IA
- Hors de ce que nous mesurons La concurrence sélectionne des IA égoïstes