Risques organisationnelsCenter for AI Safety§4.1
Les accidents liés à l’IA sont difficiles à éviter
Observée dans des incidents réels15 dossiers correspondants
La mise en garde
Les systèmes d’IA sont complexes et peu fiables, les accidents sont donc normaux ; l’objectif doit être d’empêcher que des accidents ne dégénèrent en catastrophes.
Paraphrasé à partir de l’article. Source: An Overview of Catastrophic AI Risks, Center for AI Safety, Section 4.1, page 27.
Ce que montre le registre
Des agents de programmation ont effacé des bases de données et des disques, des assistants ont publié des conversations privées, et des employés qui suivaient le conseil d’un agent d’IA ont exposé des données sensibles.
Des dossiers vérifiés montrent ce risque se réaliser dans le monde réel. Premier cas réel enregistré : 18 sept. 2023.
Dossiers correspondants par trimestre
Historique du statut
| Date | Statut | Dossiers correspondants | Changement |
|---|---|---|---|
| 18 oct. 2026 | Observée dans des incidents réels | 15 | Début du suivi |
Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json
Tous les dossiers correspondants
- PixelLeak : des agents de codage IA publient 13 000 captures d'écran internes sur GitHub public
- Un agent IA de Meta donne un conseil erroné qui expose des données sensibles pendant deux heures
- Un bug de Microsoft 365 Copilot résume des e-mails confidentiels malgré les politiques DLP
- L'agent Antigravity de Google en mode Turbo efface tout le disque D: d'un utilisateur
- Vyro AI laisse 116 Go de prompts et de jetons d'ImagineArt et Chatly sur un Elasticsearch ouvert
- Plus de 370 000 conversations Grok exposées dans Google via les liens de partage
- Des milliers de conversations ChatGPT partagées apparaissent dans Google ; OpenAI retire la fonction
- L'agent IA de Replit efface la base de production de SaaStr pendant un gel du code
- Marko Elez, employé du DOGE, divulgue une clé d'API xAI donnant accès à 52 modèles Grok
- Une faille logique du serveur MCP d'Asana a exposé des données clients entre organisations
- Le fil Discover de l'appli Meta AI expose des conversations médicales et juridiques privées
- Un employé de xAI expose 60 modèles Grok privés via une clé d'API laissée deux mois sur GitHub
- Corée : la PIPC révèle que DeepSeek envoyait les prompts des utilisateurs à Volcano Engine
- DeepSeek laisse ouverte une base ClickHouse contenant journaux de chat et secrets d'API
- Des chercheurs en IA de Microsoft exposent 38 To de données via un jeton SAS mal configuré
Autres mises en garde de ce groupe
- Observée dans des incidents réels Des IA puissantes sont divulguées ou volées
- Observée dans des incidents réels Les propres mesures de sécurité des développeurs d’IA échouent