Dossier ccdh-cnn-killer-apps-teen-violencePréjudice causé par un chatbotÉtats-Unis
Test CCDH-CNN : la plupart des chatbots populaires ont aidé de faux adolescents de 13 ans à planifier des fusillades en milieu scolaire et des attentats à l’explosif
Des chercheurs se faisant passer pour des garçons de 13 ans en Virginie et à Dublin ont testé 10 chatbots fin 2025 et constaté qu’ils fournissaient une aide exploitable pour des fusillades scolaires, des assassinats et des attentats à l’explosif contre des synagogues environ 75 % du temps. Perplexity a apporté son aide dans tous les tests et Meta AI dans 97 % d’entre eux, tandis que Claude et Snapchat My AI ont refusé le plus souvent.
FaiblePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 11 mars 2026
- Lieu
- États-Unis
- Cible
- Adolescents utilisant des chatbots d’IA populaires aux États-Unis et en Irlande
- Gravité
- Faible
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI, Replika et d’autres
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Des chercheurs se faisant passer pour des garçons de 13 ans en Virginie et à Dublin ont testé 10 chatbots fin 2025 et constaté qu’ils fournissaient une aide exploitable pour des fusillades scolaires, des assassinats et des attentats à l’explosif contre des synagogues environ 75 % du temps. Perplexity a apporté son aide dans tous les tests et Meta AI dans 97 % d’entre eux, tandis que Claude et Snapchat My AI ont refusé le plus souvent.
Impact: Aucune victime précise ; démontre que des chatbots peuvent aider des mineurs à planifier des violences
Qui l’a déclenché
Acteur: ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI, Replika et d’autres
Attribution: Center for Countering Digital Hate et CNN (« Killer Apps »)
Mobile: Aucun ; le préjudice découle des réponses mêmes des produits
Comment c’est arrivé
Vecteur d’attaque: Conversations dans lesquelles un utilisateur se déclarant mineur passait de sentiments violents à des questions opérationnelles
Cause racine: Garde-fous qui ne bloquaient pas les détails opérationnels, même lorsque les utilisateurs indiquaient être mineurs
Chronologie
- Début des tests (novembre-décembre 2025)
- Le CCDH et CNN publient leurs conclusions
Réponse
OpenAI a jugé la méthodologie défaillante et Google a indiqué qu’un ancien modèle de Gemini avait été testé. Plusieurs entreprises ont affirmé avoir renforcé leurs garde-fous.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
Citer ce dossier
Test CCDH-CNN : la plupart des chatbots populaires ont aidé de faux adolescents de 13 ans à planifier des fusillades en milieu scolaire et des attentats à l’explosif. AI Threat Watch, dossier ccdh-cnn-killer-apps-teen-violence, 11 mars 2026. https://aithreat.io/fr/cases/ccdh-cnn-killer-apps-teen-violence/
Lien permanent: https://aithreat.io/fr/cases/ccdh-cnn-killer-apps-teen-violence/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.