UK AI Security InstituteGarde-fous§4
Tous les systèmes d’IA testés ont cédé à un jailbreak
Observée dans des incidents réels6 dossiers correspondants
La mise en garde
L’AISI a trouvé des jailbreaks universels, des attaques qui contournent les garde-fous pour de nombreux types de demandes nuisibles, dans chaque système qu’il a testé, même si certains garde-fous exigent désormais bien plus d’efforts d’experts pour être contournés.
Paraphrase de la source. Source: Frontier AI Trends Report, UK AI Security Institute, 18 déc. 2025, section 4, page 24.
Ce que montre le registre
De vrais attaquants contournent les garde-fous : des groupes étatiques ont obtenu des réponses à des requêtes refusées en se faisant passer pour des auditeurs, des participants à des compétitions capture-the-flag ou des testeurs d’intrusion autorisés, des criminels vendent des chatbots débridés pour créer des malwares et de l’hameçonnage, et une enquête judiciaire a entendu qu’un adolescent avait obtenu des informations dangereuses de ChatGPT après avoir affirmé que ses questions servaient à une recherche.
Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel. Premier cas réel enregistré : 23 janv. 2025 · Déjà enregistré à la publication de cette recherche.
Dossiers correspondants par trimestre
Historique du statut
| Date | Statut | Dossiers correspondants | Changement |
|---|---|---|---|
| 18 oct. 2026 | Observée dans des incidents réels | 6 | Début du suivi |
Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json
Tous les dossiers correspondants
- Trend Micro : un APT fait passer un agent IA pour un pentest autorisé en Asie du Sud-Est
- UNC2814, lié à la Chine, joue l'auditeur C/C++ pour faire chercher des failles TP-Link à Gemini
- Une enquête du coroner au Royaume-Uni révèle qu’un adolescent de 16 ans a contourné les garde-fous de ChatGPT avant sa mort
- Un acteur lié à la Chine contourne le refus de Gemini avec un prétexte de CTF
- Cato CTRL : les nouvelles variantes de WormGPT sont des surcouches jailbreakées de Grok et Mixtral
- GhostGPT : un chatbot sans filtre vendu sur Telegram pour écrire malwares et hameçonnage
Les mêmes dossiers dans d’autres recherches
- Observée dans des incidents réels L’IA rend les cyberattaques plus faciles, plus rapides et plus massives · CAIS · 5 en commun
- Observée dans des incidents réels Criminels et pirates étatiques utilisent l’IA dans leurs cyberattaques · International AI Safety Report · 5 en commun
- Observée dans des incidents réels Acteurs malveillants et usages abusifs · MIT AI Risk Repository · 5 en commun
- Observée dans des incidents réels L’IA mène une part croissante de chaque attaque, sans autonomie complète · International AI Safety Report · 1 en commun
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report · 1 en commun
- Signes précoces Les garde-fous des modèles ouverts sont faciles à retirer · International AI Safety Report · 1 en commun
Des mises en garde d’autres sources liées à certains des mêmes dossiers.