International AI Safety ReportGestion des risques§3.4

Les garde-fous des modèles ouverts sont faciles à retirer

Signes précoces5 dossiers correspondants

La mise en garde

Les modèles dont les poids sont publiés peuvent être modifiés pour supprimer leurs garde-fous, leur usage est difficile à surveiller, et une publication ne peut pas être rappelée.

Paraphrase de la source. Source: International AI Safety Report 2026, 3 févr. 2026, section 3.4, page 132. Synthèse par International AI Safety Report: internationalaisafetyreport.org.

Ce que montre le registre

Des outils d’attaque du registre fonctionnent sur des modèles ouverts : une variante de WormGPT construite sur Mixtral, une plateforme du darknet revendiquant des modèles auto-hébergés, un voleur de données d’APT28 qui interroge Qwen, un prototype de rançongiciel utilisant un modèle ouvert local et un serveur Ollama détourné servant de cerveau à un outil de piratage. Aucun ne montre des poids modifiés pour retirer les garde-fous ; la variante de WormGPT reposait sur ses instructions.

Signes partiels ou précoces : les cas correspondent à une partie de la mise en garde, ou reposent sur des allégations. Premier cas réel enregistré : 7 avr. 2025 · Déjà enregistré à la publication de cette recherche.

Dossiers correspondants par trimestre

Observée dans des incidents réelsTest en laboratoire ou démonstration de chercheurs

Historique du statut

Date	Statut	Dossiers correspondants	Changement
18 oct. 2026	Signes précoces	5	Début du suivi

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

12 juin 2026Un serveur Ollama détourné sert de cerveau à un pipeline de piratage autonome
26 août 2025ESET découvre PromptLock, un ransomware utilisant un modèle gpt-oss local pour écrire ses scripts · Test en laboratoire ou démonstration de chercheurs
17 juil. 2025LameHug : un malware lié à APT28 interroge le LLM Qwen pour générer ses commandes
17 juin 2025Cato CTRL : les nouvelles variantes de WormGPT sont des surcouches jailbreakées de Grok et Mixtral
7 avr. 2025Xanthorox AI : une plateforme criminelle auto-hébergée présentée comme le tueur de WormGPT

Les mêmes dossiers dans d’autres recherches

Observée dans des incidents réels L’IA rend les cyberattaques plus faciles, plus rapides et plus massives · CAIS · 4 en commun
Observée dans des incidents réels Acteurs malveillants et usages abusifs · MIT AI Risk Repository · 4 en commun
Observée dans des incidents réels Tous les systèmes d’IA testés ont cédé à un jailbreak · UK AISI · 1 en commun
Observée dans des incidents réels Vie privée et sécurité · MIT AI Risk Repository · 1 en commun
Observée dans des incidents réels Des gens lâcheront des agents d’IA pour nuire · CAIS · 1 en commun

Des mises en garde d’autres sources liées à certains des mêmes dossiers.

Recherche et réalité · International AI Safety Report →

Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit par la source, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de la source. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)