Dossier ghostgpt-criminal-chatbotHameçonnage par IAMondial
GhostGPT : un chatbot sans filtre vendu sur Telegram pour écrire malwares et hameçonnage
Abnormal Security a documenté GhostGPT, une surcouche de LLM jailbreaké vendue via Telegram avec une promesse d'absence de journaux, qui a produit sur demande un e-mail d'hameçonnage DocuSign convaincant et est commercialisée pour le développement de malwares et d'exploits.
MoyenneAttaque avec l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 23 janv. 2025
- Lieu
- Mondial
- Cible
- Entreprises visées par l'hameçonnage et la fraude au président (BEC)
- Gravité
- Moyenne
- Déclenché par
- Inconnu
- Type d’acteur
- Criminel
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Abnormal Security a documenté GhostGPT, une surcouche de LLM jailbreaké vendue via Telegram avec une promesse d'absence de journaux, qui a produit sur demande un e-mail d'hameçonnage DocuSign convaincant et est commercialisée pour le développement de malwares et d'exploits.
Impact: Des publications sur les forums comptant des milliers de vues témoignaient d'une réelle demande criminelle ; l'outil a abaissé la barrière pour les leurres de BEC et d'hameçonnage sans compétence en jailbreak.
Qui l’a déclenché
Acteur: Inconnu
Attribution: Les chercheurs d'Abnormal Security ont repéré le service sur des forums clandestins ; l'identité de l'opérateur n'a pas été établie.
Mobile: Vendre à des cybercriminels un accès à une IA sans censure, à des fins lucratives
Comment c’est arrivé
Vecteur d’attaque: Chatbot distribué via Telegram, probablement une surcouche d'un modèle commercial ou open source jailbreaké, dont les garde-fous ont été supprimés
Cause racine: Les garde-fous des LLM commerciaux peuvent être contournés par des services d'enveloppe, offrant aux acteurs peu qualifiés une génération clé en main d'hameçonnage et de malwares
Chronologie
- Les publicités pour GhostGPT cumulent des milliers de vues sur les forums de cybercriminalité
- Abnormal Security publie son analyse après avoir testé l'outil avec une demande d'hameçonnage DocuSign
Réponse
Abnormal a publié des indicateurs et alerté les défenseurs ; aucun démantèlement signalé.
Statut actuel: En cours
Sources (nouvel onglet)
- Abnormal AI abnormal.ai
- TechRepublic techrepublic.com
- Security Boulevard securityboulevard.com
Citer ce dossier
GhostGPT : un chatbot sans filtre vendu sur Telegram pour écrire malwares et hameçonnage. AI Threat Watch, dossier ghostgpt-criminal-chatbot, 23 janv. 2025. https://aithreat.io/fr/cases/ghostgpt-criminal-chatbot/
Lien permanent: https://aithreat.io/fr/cases/ghostgpt-criminal-chatbot/