Dossier llama-cpp-slots-prompt-leakFuite de modèle et de donnéesMondial
Des serveurs llama.cpp exposés font fuiter les prompts via le point de débogage /slots
UpGuard a recensé environ 400 serveurs llama.cpp accessibles depuis Internet, dont un tiers exposaient des prompts en direct via le point de terminaison /slots sans authentification ; 952 messages ont été collectés en une journée, dont des jeux de rôle sexuels impliquant des mineurs fictifs.
MoyenneAttaque contre l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 25 juil. 2025
- Lieu
- Mondial
- Cible
- Serveurs d'inférence llama.cpp auto-hébergés
- Gravité
- Moyenne
- Déclenché par
- Chercheurs d'UpGuard (découverte) ; mauvaise configuration des opérateurs
- Type d’acteur
- Chercheurs en sécurité
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
UpGuard a recensé environ 400 serveurs llama.cpp accessibles depuis Internet, dont un tiers exposaient des prompts en direct via le point de terminaison /slots sans authentification ; 952 messages ont été collectés en une journée, dont des jeux de rôle sexuels impliquant des mineurs fictifs.
Impact: Environ 117 serveurs faisaient fuiter des prompts en temps réel ; cinq des 108 scénarios observés comportaient du contenu sexuellement explicite impliquant des enfants fictifs ; aucune donnée d'entreprise trouvée
Qui l’a déclenché
Acteur: Chercheurs d'UpGuard (découverte) ; mauvaise configuration des opérateurs
Attribution: Exposition détectée par les balayages d'UpGuard ; les opérateurs étaient surtout des amateurs exploitant des chatbots de jeu de rôle
Mobile: Recherche en sécurité sur les infrastructures IA exposées
Comment c’est arrivé
Vecteur d’attaque: Requêtes HTTP anonymes vers les points de terminaison /slots et /props de serveurs llama.cpp sans authentification
Cause racine: Les opérateurs ont activé le point de débogage /slots, déconseillé en production par la documentation, et exposé directement leurs serveurs sur Internet
Chronologie
- UpGuard échantillonne environ 400 serveurs llama.cpp exposés ; 117 IP exposent des prompts
- UpGuard publie ses conclusions, dont 952 messages uniques fuités sur 108 scénarios
Réponse
UpGuard a publié des recommandations pour désactiver /slots et restreindre l'accès ; l'AI Incident Database a enregistré le cas
Statut actuel: En cours
Sources (nouvel onglet)
- UpGuard upguard.com
- AI Incident Database incidentdatabase.ai
Citer ce dossier
Des serveurs llama.cpp exposés font fuiter les prompts via le point de débogage /slots. AI Threat Watch, dossier llama-cpp-slots-prompt-leak, 25 juil. 2025. https://aithreat.io/fr/cases/llama-cpp-slots-prompt-leak/
Lien permanent: https://aithreat.io/fr/cases/llama-cpp-slots-prompt-leak/