Acteurs malveillants et usages abusifs

Le domaine de risque

Des personnes qui utilisent l’IA pour la désinformation, la surveillance et la propagande à grande échelle ; pour les cyberattaques et les armes ; et pour la fraude, les escroqueries et la manipulation ciblée.

Paraphrase de la source. Source: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 août 2024, domaine 4, tableau 2, page 8–9. Synthèse par MIT AI Risk Initiative: airisk.mit.edu.

Ce que montre le registre

L’autre pilier du registre : fraude par deepfake, malwares conçus avec l’IA, hameçonnage par IA et opérations étatiques.

Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel.

Dossiers correspondants par trimestre

Historique du statut

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

• 16 oct. 2026Des centaines d'agents IA exploitent des serveurs PaperCut NG/MF pour voler des identifiants Windows
• 15 oct. 2026Storm-3168 mène des attaques agentiques sur Azure via des principaux de service compromis
• 15 oct. 2026Une campagne d'espionnage pilotée par IA cible l'infrastructure Linux gouvernementale
• 14 oct. 2026Un agent IA mène un vol de données en plusieurs étapes dans la première violation dopée à l'IA en Espagne, selon l'AEPD
• 14 oct. 2026Avis américain : des attaquants utilisent des scripts d'exploitation générés par IA contre des automates Siemens S7 exposés
• 14 oct. 2026Un acteur inconnu utilise ARTEX, un outil piloté par IA, contre la finance sud-coréenne
• 14 oct. 2026Les opérateurs du rançongiciel Aurora détournent l'IA Cursor Agent pour la reconnaissance et l'exploitation
• 14 oct. 2026L'abus d'une fonctionnalité ChatGPT couplé à ClickFix diffuse un cheval de Troie aux utilisateurs effectuant des recherches sur Google
• 14 oct. 2026ClaudeFix : des conversations Claude partagées utilisées pour diffuser des instructions ClickFix malveillantes
• 14 oct. 2026Talos découvre CLOSEDQUORUM, premier implant signalé à C2 autonome par IA
• 14 oct. 2026Une attaque par IA agentique exploite des zero-days Zammad contre l'institut néerlandais de divulgation des vulnérabilités
• 14 oct. 2026Un modèle d'IA de Meta exploite une faille de sécurité d'un tiers pendant une évaluation
• 14 oct. 2026Une nouvelle variante de NGate se cache dans une application de paiement NFC piégée, possiblement conçue avec l'IA
• 14 oct. 2026Les travailleurs informatiques nord-coréens de PurpleDelta utilisent des personas IA et des assistants ChatGPT personnalisés
• 14 oct. 2026Le panneau C2 du logiciel malveillant RatHat utilise l'IA pour construire des malwares et classer les victimes sur près de 100 déploiements
• 14 oct. 2026TA419, lié à la Chine, se fait passer pour des experts en IA pour hameçonner des initiés de la politique américaine de l'IA
• 14 oct. 2026UAT-11985 utilise des leurres événementiels assistés par IA pour un hameçonnage Google de type AitM à Taïwan
• 14 oct. 2026Unit 42 enquête sur la compromission d'un réseau d'entreprise en quelques heures par des agents IA autonomes
• 14 oct. 2026Des attaquants utilisent des outils d'IA pour exfiltrer des données d'organisations d'Amérique latine
• 6 oct. 2026Première condamnation américaine pour fraude au streaming musical par IA après 8 M$ de redevances
• 25 sept. 2026Un faux PDG sur WhatsApp et la voix clonée d'un avocat poussent Fideuram (Intesa) à virer 95 millions d'euros à l'étranger
• 18 sept. 2026Grèce : un gang clonant par IA la voix de proches pour voler plus d'1 M€ démantelé
• 10 sept. 2026GTG-10007 : des étudiants sinophones font tourner une fonderie d'exploits Claude contre 50 cibles
• 10 sept. 2026GTG-15001 : un studio chinois exploitait 20 applis de rencontre avec 4 700 personas Claude
• 10 sept. 2026GTG-30006 : des comptes iraniens ont bâti des portails de phishing et l'implant SECOMS64 avec Claude
• 10 sept. 2026GTG-50029 : un hacktiviste francophone isolé pénètre 14 entités politiques européennes
• 10 sept. 2026Un acteur pro-russe a utilisé des agents IA pour reconstruire ses malwares et voler des identités
• 10 sept. 2026Des affiliés ShinyHunters extraient plus de 2 100 jetons Azure de 40+ tenants avec des agents IA
• 8 sept. 2026Un groupe lié à Sandworm a utilisé Gemini pour ses scripts de pulvérisation de mots de passe
• 8 sept. 2026Cas Mandiant : un agent IA bâti d'un seul prompt récolte des milliers d'identifiants en 6 heures
• 20 août 2026Heidelberg : un retraité de 75 ans perd une somme à six chiffres après un deepfake de célébrité
• 19 août 2026SilkParasite : espionnage lié à la Chine en Asie centrale avec leurres et RAT assistés par IA
• 19 août 2026NSA, CISA et FBI alertent sur des scripts IA sondant des automates Siemens S7 en faux moniteurs OT
• 17 août 2026Australie : des deepfakes d'Albanese et de neuf personnalités liés à 7,4 M A$ de pertes
• 10 août 2026Le fisc norvégien découvre de faux reçus générés par IA derrière 2 Mds NOK de demandes frauduleuses
• 31 juil. 2026OpenAI perturbe un complexe d'escroquerie de Poipet utilisant ChatGPT pour la fraude et la traite
• 29 juil. 2026Trend Micro : un APT fait passer un agent IA pour un pentest autorisé en Asie du Sud-Est
• 29 juil. 2026Trend Micro : Earth Krahang et Earth Naga intègrent l'IA générative à leurs exploits et chargeurs
• 22 juil. 2026Finlande : alerte sur des deepfakes Google Meet usurpant le directeur national de la police
• 16 juil. 2026TuxBot v3 : un botnet IoT lié à Keksec construit avec un LLM conserve ses avertissements de sécurité
• 15 juil. 2026Le joaillier indien Sky Gold perd 10,7 crores de roupies dans un deepfake présumé d'un directeur
• 13 juil. 2026Colombie : un réseau d'Ibague usant de deepfakes pour se faire passer pour des consuls américains
• 13 juil. 2026Des présentatrices générées par IA dans plus de 550 vidéos TikTok diffusent de fausses informations sur Singapour et la Malaisie
• 8 juil. 2026Saxe : une femme perd plus d'1 M€ après une vidéo deepfake de Markus Lanz vantant Investhub 3.0
• 1 juil. 2026JADEPUFFER : un agent LLM mène une intrusion Langflow jusqu'à l'extorsion de bases de données
• 26 juin 2026Tokyo : des collecteurs taïwanais arrêtés dans une arnaque à 100 M de yens avec un deepfake de Horie
• 25 juin 2026Chiba : un jeune de 19 ans arrêté pour avoir créé un ransomware avec l'IA après l'affaire Asahi
• 21 juin 2026Lahav 433 arrête un jeune de 20 ans qui animait par IA des photos d'identité volées
• 5 juin 2026Nigeria : arrestation de l'auteur présumé d'un clip vocal IA viral attribué au président Tinubu
• 2 juin 2026Sophos surprend un acteur lié au ransomware bâtissant des évasions EDR avec Cursor et Claude
• 24 mai 2026Opération « Yapay Zeka-2 » en Turquie : 16 interpellations pour des pubs deepfake d'officiels
• 22 mai 2026MiniFast, porte dérobée de Nimbus Manticore, trahit un codage assisté par IA en plein conflit
• 19 mai 2026Sao Paulo : un réseau de faux avocats clonant leurs voix démantelé ; 10 M R$ déplacés
• 15 mai 2026Singapour : un homme d'affaires perd 4,9 M S$ après un Zoom avec un deepfake du Premier ministre
• 11 mai 2026Les familles des victimes de la fusillade de la FSU affirment que ChatGPT a aidé l’auteur de l’attaque de 2025 sur le campus
• 11 mai 2026Le GTIG intercepte le premier zero-day écrit par IA : un contournement 2FA d'un outil open source
• 11 mai 2026APT45, groupe nord-coréen, a soumis des milliers de prompts à Gemini pour valider des exploits
• 11 mai 2026CANFAIL et LONGSTREAM : des malwares russes noyés dans du remplissage LLM pour tromper l'analyse
• 11 mai 2026La porte dérobée Android PROMPTSPY laisse Gemini piloter l'écran et bloquer la désinstallation
• 11 mai 2026UNC2814, lié à la Chine, joue l'auditeur C/C++ pour faire chercher des failles TP-Link à Gemini
• 10 mai 2026Sysdig : un agent LLM pivote d'une RCE marimo à l'extraction d'une base Postgres en une heure
• 7 mai 2026Ghana : 16 arrestations pour des vidéos deepfake du président Mahama servant à soutirer de l'argent
• 29 avr. 2026Autriche et Albanie : coup de filet dans des centres d'appels usant de faux clips de Van der Bellen
• 29 avr. 2026Les victimes de la fusillade de Tumbler Ridge poursuivent OpenAI pour un compte ChatGPT signalé mais non dénoncé
• 28 avr. 2026Ahmedabad : un réseau utilisait des vidéos deepfake pour déjouer les contrôles faciaux Aadhaar
• 27 avr. 2026La Banque de France alerte sur des deepfakes du gouverneur Villeroy de Galhau vendant des placements
• 23 avr. 2026Bangladesh : dix arrestations pour la vente de drogues avec des deepfakes du prédicateur Azhari
• 22 avr. 2026Talos IR : vol d'identifiants dans le secteur public via une page de phishing vibe-codée sur Softr
• 19 mars 2026Unit 42 : un dropper Go demande à GPT-4 s'il doit déployer Sliver selon la télémétrie de l'hôte
• 15 mars 2026Des sites ClickFix générés par IA sur des domaines typosquattés diffusent SmartRAT
• 6 mars 2026Microsoft : Coral Sleet, groupe nord-coréen, mène un flux d'IA agentique des leurres aux charges
• 6 mars 2026Jasper Sleet a utilisé Faceswap et des modificateurs de voix ; des milliers de comptes coupés
• 4 mars 2026HP Wolf : des scripts d'infection « vibe-hacking » générés par IA passent les passerelles e-mail
• 2 mars 2026Le créateur d'OnlyFake plaide coupable d'avoir vendu plus de 10 000 fausses pièces d'identité IA
• 2 mars 2026Dust Specter, lié à l'Iran, frappe des officiels irakiens avec des malwares portant des traces d'IA
• 25 févr. 2026Un pirate utilise Claude pour voler 150 Go de données fiscales et électorales au Mexique
• 18 févr. 2026Lagos : détention pour une arnaque forex à 230 M de nairas avec une image IA de Peter Obi
• 12 févr. 2026COINBAIT : un kit de phishing de plateforme crypto construit avec le constructeur d'apps IA Lovable
• 12 févr. 2026Google : Gemini utilisé par des pirates étatiques ; extraction à 100 000 prompts bloquée
• 12 févr. 2026Le chargeur HONESTCUE demande à Gemini du code C# de seconde étape et le compile en mémoire
• 11 févr. 2026Okonjo-Iweala alerte les Nigérians sur une vidéo IA utilisant son image pour un faux placement
• 11 févr. 2026Turquie : cinq personnes écrouées pour une arnaque à 410 M de livres usant de deepfakes d'officiels
• 9 févr. 2026UNC1069 (Corée du Nord) piège des sociétés crypto avec de faux appels Zoom deepfake
• 4 févr. 2026CERT-FR : 42 groupes d'attaquants utilisent l'IA générative, aucun encore autonome contre la France
• 3 févr. 2026Surrey : un ingénieur retraité perd 20 000 £ à cause d'une vidéo deepfake de Martin Lewis
• 2 févr. 2026Taïwan : un réseau a combiné Starlink et deepfakes pour déjouer l'e-CNY et détourner 200 M NT$
• 29 janv. 2026Taichung inculpe un réseau usant de scripts ChatGPT et de deepfakes de policiers japonais
• 20 janv. 2026Le framework de malware cloud VoidLink construit en grande partie par un agent IA
• 8 janv. 2026La NBK alerte sur des pubs d'investissement deepfake dans la campagne Let's Be Aware au Koweït
• 24 déc. 2025Le parquet égyptien ordonne de tracer des vidéos explicites générées par IA de Haifa Wehbe
• 17 déc. 2025Pays-Bas : un Amstellodamois ouvrait des comptes bancaires avec des deepfakes, 46 comptes recensés
• 9 déc. 2025Afrique du Sud : la FSCA inflige 2 Mds de rands à Banxso, nourri par des pubs deepfake de Musk
• 5 déc. 2025Da Nang : trois Sud-Coréens arrêtés pour un réseau d'arnaque sentimentale par deepfake au Cambodge
• 4 déc. 2025Europol démantèle un réseau de fraude crypto à 700 M€ alimenté par des pubs deepfake de célébrités
• 25 nov. 2025Unit 42 teste WormGPT 4 et KawaiiGPT, des LLM criminels qui écrivent des scripts de ransomware
• 19 nov. 2025Uruguay : alerte sur un deepfake du président Orsi alors que les pubs frauduleuses se multiplient
• 13 nov. 2025Un groupe étatique chinois a utilisé Claude Code pour mener un espionnage largement autonome
• 11 nov. 2025Bangkok : un gang chinois animait par IA des photos de victimes pour déjouer le KYC bancaire
• 5 nov. 2025Un acteur lié à la Chine contourne le refus de Gemini avec un prétexte de CTF
• 5 nov. 2025MuddyWater a livré son domaine C2 et sa clé de chiffrement à Gemini en déboguant un malware
• 5 nov. 2025Google signale PROMPTFLUX et d'autres malwares qui appellent Gemini à l'exécution
• 5 nov. 2025Le stealer QUIETVAULT exploite les outils IA locaux pour traquer des secrets et des jetons GitHub
• 3 nov. 2025La porte dérobée SesameOp a utilisé l'API Assistants d'OpenAI comme C2 dissimulé pendant des mois
• 31 oct. 2025Des pubs deepfake de figures financières suédoises attirent 5 000 épargnants dans des pump-and-dump
• 28 oct. 2025Kaspersky : les campagnes GhostCall et GhostHire de BlueNoroff accélérées par l'IA générative
• 22 oct. 2025Une médecin philippine perd 93 M de pesos dans une arnaque appuyée par un deepfake de Marcos
• 16 oct. 2025Le ministre émirati de l'Économie dit que son visage a été deepfaké dans des vidéos d'arnaque
• 10 oct. 2025Hong Kong : 22 arrestations pour des face-swaps IA sur des cartes d'identité perdues
• 7 oct. 2025Un groupe nord-coréen a utilisé ChatGPT pour outiller son C2 contre les diplomates de Séoul
• 7 oct. 2025Des criminels russophones ont assemblé un RAT et des stealers à partir de fragments ChatGPT
• 7 oct. 2025Des réseaux d'escroquerie au Cambodge, au Myanmar et au Nigeria ont bâti leurs personas avec ChatGPT
• 7 oct. 2025UNK_DropPitch a utilisé ChatGPT pour son phishing et ses outils contre le secteur des puces à Taïwan
• 5 oct. 2025Pesaro : des retraités perdent plus de 10 000 euros à cause d'un deepfake de Meloni
• 3 oct. 2025Old Mutual alerte sur des vidéos deepfake de son président Trevor Manuel vantant de faux placements
• 1 oct. 2025Une vidéo IA du porte-parole argentin Adorni vante une fausse plateforme d'investissement YPF
• 1 oct. 2025Brésil : un réseau d'arnaques Instagram à base de deepfakes de Gisele Bundchen démantelé
• 25 sept. 2025La banque centrale sud-africaine alerte sur un deepfake du gouverneur Kganyago vantant un placement
• 24 sept. 2025Microsoft bloque une campagne de phishing utilisant des fichiers SVG obfusqués générés par LLM
• 22 sept. 2025SentinelLABS découvre MalTerminal, un générateur de malware piloté par GPT-4 datant de 2023
• 18 sept. 2025Le compte X piraté de Raila Odinga publie un deepfake vantant un jeton crypto aux Kényans
• 17 sept. 2025Le Chili envisage une action de l'État contre un deepfake du président Boric dans une pub d'arnaque
• 15 sept. 2025Kimsuky utilise une carte militaire sud-coréenne forgée par ChatGPT dans du spear-phishing
• 11 sept. 2025Bank of Ireland alerte sur des deepfakes clonant la candidate à la présidence Heather Humphreys
• 9 sept. 2025Wuhan : un gang de face-swap par IA ayant piraté le compte officiel d'une agence MCN démantelé
• 27 août 2025Des agents nord-coréens ont utilisé Claude pour décrocher des postes dans des Fortune 500
• 27 août 2025Un criminel isolé vendait des ransomwares créés avec Claude pour 400 à 1 200 $ sur des forums
• 27 août 2025Claude Code utilisé pour automatiser l'extorsion de données contre 17 organisations
• 26 août 2025ESET découvre PromptLock, un ransomware utilisant un modèle gpt-oss local pour écrire ses scripts · Test en laboratoire ou démonstration de chercheurs
• 20 août 2025Proofpoint : Lovable détourné pour un phishing MFA Tycoon touchant plus de 5 000 organisations
• 19 août 2025La FMA néo-zélandaise signale un pump-and-dump par deepfakes de dirigeants kiwis dans des pubs Meta
• 19 août 2025Le PIB signale des deepfakes de la ministre indienne des Finances vantant le plan QuantumAI
• 4 août 2025CrowdStrike : FAMOUS CHOLLIMA a infiltré plus de 320 entreprises grâce à l'IA générative
• 1 août 2025Le paquet npm @kodane/patch-manager, écrit par IA, vide des portefeuilles Solana
• 29 juil. 2025Jordanie : la cyberpolice alerte sur des comptes deepfake usurpant des personnalités publiques
• 23 juil. 2025La voix clonée par IA du maire de Medellin utilisée dans des pubs pour une fausse plateforme Nubank
• 17 juil. 2025LameHug : un malware lié à APT28 interroge le LLM Qwen pour générer ses commandes
• 15 juil. 2025Le RaaS GLOBAL GROUP déploie des négociateurs chatbot IA pour imposer des rançons à sept chiffres
• 8 juil. 2025Kenya : des vidéos IA du président Ruto démissionnant dépassent 1,4 M de vues sur TikTok
• 8 juil. 2025Un imposteur à la voix IA de Marco Rubio contacte des ministres étrangers via Signal
• 7 juil. 2025Des deepfakes de Netanyahu, Gadot et Musk alimentent un pump-and-dump sur Ostin Technology en Israël
• 1 juil. 2025La cyberpolice de Mumbai démantèle une agence diffusant des pubs deepfake d'experts boursiers
• 30 juin 2025Microsoft : Jasper Sleet falsifie des identités par IA ; 3 000 comptes nord-coréens suspendus
• 17 juin 2025Cato CTRL : les nouvelles variantes de WormGPT sont des surcouches jailbreakées de Grok et Mixtral
• 9 juin 2025ScopeCreep : un acteur russophone a bâti un malware Windows avec des comptes ChatGPT jetables
• 9 juin 2025VAGue Focus : des comptes liés à la Chine utilisent ChatGPT pour cibler élus et presse américains
• 9 juin 2025OpenAI bannit des comptes d'APT15 et APT5 utilisant ChatGPT pour automatiser des pentests
• 9 juin 2025Wrong Number : une arnaque aux tâches cambodgienne a traduit ses SMS en six langues via ChatGPT
• 9 juin 2025Stockholm : des pubs deepfake d'Anders Tegnell et Agnes Wold servent à voler des données bancaires
• 15 mai 2025Le FBI alerte sur une campagne de vishing par voix IA usurpant de hauts responsables américains
• 9 mai 2025La FSCA alerte sur un deepfake WhatsApp de son commissaire vantant un faux outil de trading Nedbank
• 8 mai 2025Pérou : la BCP dénonce une vidéo IA usurpant le PDG de Credicorp Gianfranco Ferrari dans une arnaque
• 25 avr. 2025Vietnam : un réseau chinois de sextorsion par deepfake visant près de 1 000 dirigeants démantelé
• 24 avr. 2025Indonésie : trois arrestations pour un deepfake TikTok de la gouverneure vendant des motos
• 23 avr. 2025Anthropic bannit un acteur qui utilisait Claude pour voler des identifiants de caméras IoT
• 23 avr. 2025Un codeur novice fait évoluer un kit de doxing et un générateur de malware avec Claude
• 23 avr. 2025Un réseau de fraude au recrutement a utilisé Claude pour peaufiner de faux leurres de recruteurs
• 9 avr. 2025AkiraBot utilise GPT-4o-mini pour spammer 80 000 sites via formulaires de contact et widgets de chat
• 8 avr. 2025Pindrop démasque « Ivan X », candidat deepfake localisé près de la frontière russo-nord-coréenne
• 7 avr. 2025Un appel Zoom deepfake de dirigeants piège un directeur financier à Singapour : 499 000 $ virés
• 7 avr. 2025Opération COINBLACK : six arrestations en Espagne pour une arnaque crypto à 19 M€ par deepfakes
• 7 avr. 2025Xanthorox AI : une plateforme criminelle auto-hébergée présentée comme le tueur de WormGPT
• 26 mars 2025QatarEnergy met en garde contre des vidéos IA usurpant son identité pour vendre de faux placements
• 12 mars 2025Malaisie : la police relie cinq vidéos deepfake d'Anwar, Trump, Musk et Petronas à une arnaque
• 11 mars 2025Argentine : un procureur fédéral enquête sur une vidéo IA du ministre Caputo promouvant Immediate AI
• 5 mars 2025Tbilissi : un centre d'appels a escroqué 6 000 personnes avec des deepfakes de Martin Lewis
• 26 févr. 2025Sheinbaum dénonce des vidéos IA où elle incite les Mexicains à investir dans des actions Pemex
• 21 févr. 2025Une arnaque sentimentale basée au Cambodge utilisait ChatGPT pour générer des leurres multilingues
• 21 févr. 2025OpenAI neutralise des comptes d'informaticiens nord-coréens rédigeant faux CV et scripts d'entretien
• 21 févr. 2025Kimsuky et BlueNoroff ont utilisé ChatGPT pour déboguer du code de force brute RDP
• 21 févr. 2025OpenAI bannit le réseau chinois Peer Review, auteur de l'outil de surveillance Qianyue
• 12 févr. 2025La voix clonée par IA du ministre italien de la Défense sert à escroquer des dirigeants
• 11 févr. 2025Vidoc Security Lab démasque deux candidats deepfake lors d'entretiens vidéo en direct
• 6 févr. 2025Mexique : la Condusef alerte sur des appels à voix clonée réclamant de gros virements
• 4 févr. 2025Thaïlande : deux membres d'un gang de Poipet arrêtés pour usurpation de policiers via l'IA
• 24 janv. 2025Indonésie : deux arrestations pour des deepfakes du président Prabowo promettant des aides
• 23 janv. 2025GhostGPT : un chatbot sans filtre vendu sur Telegram pour écrire malwares et hameçonnage
• 23 janv. 2025Storm-1516 inonde l'élection allemande de plus de 100 faux sites écrits par IA et de deepfakes
• 17 janv. 2025Une Française perd 830 000 euros dans une arnaque sentimentale au faux « Brad Pitt » généré par IA
• 16 janv. 2025Operacao VoiceOver : un gang usant de deepfakes de Marcos Mion pour une arnaque aux bons démantelé
• 10 janv. 2025Check Point : le groupe de rançongiciel FunkSec a construit son chiffreur Rust avec l'aide de l'IA
• 7 janv. 2025Le poseur de bombe du Cybertruck à Las Vegas a planifié l'explosion avec ChatGPT, selon la police
• 5 janv. 2025Hong Kong : 31 arrestations dans un réseau d'arnaques sentimentales crypto par deepfake (34 M HK$)

Les mêmes dossiers dans d’autres recherches

• Observée dans des incidents réels L’IA rend les cyberattaques plus faciles, plus rapides et plus massives · CAIS · 87 en commun
• Observée dans des incidents réels Criminels et pirates étatiques utilisent l’IA dans leurs cyberattaques · International AI Safety Report · 87 en commun
• Observée dans des incidents réels Les faux générés par l’IA alimentent la fraude et l’extorsion · International AI Safety Report · 81 en commun
• Observée dans des incidents réels Des gens lâcheront des agents d’IA pour nuire · CAIS · 17 en commun
• Observée dans des incidents réels L’IA mène une part croissante de chaque attaque, sans autonomie complète · International AI Safety Report · 16 en commun
• Observée dans des incidents réels Tous les systèmes d’IA testés ont cédé à un jailbreak · UK AISI · 5 en commun

Des mises en garde d’autres sources liées à certains des mêmes dossiers.

Autres mises en garde de ce groupe

• Hors de ce que nous mesurons Discrimination et contenus toxiques
• Observée dans des incidents réels Vie privée et sécurité
• Signes précoces Mésinformation
• Observée dans des incidents réels Interaction humain-machine
• Hors de ce que nous mesurons Préjudices socio-économiques et environnementaux
• Observée dans des incidents réels Sûreté des systèmes d’IA, défaillances et limites