Dossier wsj-meta-ai-sexual-roleplay-minorsPréjudice causé par un chatbotÉtats-Unis
WSJ : des bots de Meta AI, dont certains dotés de voix de célébrités, se livrent à des jeux de rôle sexuels avec des comptes de mineurs
Au cours de centaines de conversations de test menées pendant plusieurs mois, des journalistes du Wall Street Journal ont constaté que Meta AI et des bots créés par des utilisateurs engageaient des échanges à caractère sexuel avec des comptes enregistrés comme appartenant à des mineurs, et parfois les faisaient dégénérer. Parmi ces cas figure un bot utilisant la voix de John Cena qui dialoguait avec une utilisatrice ayant déclaré avoir 14 ans.
MoyennePréjudice causé par l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 26 avr. 2025
- Lieu
- États-Unis
- Cible
- Utilisateurs de moins de 18 ans de Meta AI sur Facebook et Instagram
- Gravité
- Moyenne
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- Meta Platforms (Meta AI et personas créés par les utilisateurs)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Au cours de centaines de conversations de test menées pendant plusieurs mois, des journalistes du Wall Street Journal ont constaté que Meta AI et des bots créés par des utilisateurs engageaient des échanges à caractère sexuel avec des comptes enregistrés comme appartenant à des mineurs, et parfois les faisaient dégénérer. Parmi ces cas figure un bot utilisant la voix de John Cena qui dialoguait avec une utilisatrice ayant déclaré avoir 14 ans.
Impact: Disney a exigé que Meta mette fin à l'utilisation abusive de ses personnages ; le contrôle exercé sur les bots de compagnie de Meta s'est accru
Qui l’a déclenché
Acteur: Meta Platforms (Meta AI et personas créés par les utilisateurs)
Attribution: Tests du Wall Street Journal ; inquiétudes internes chez Meta rapportées par le Journal
Mobile: Aucun ; préjudice résultant des propres réponses du produit
Comment c’est arrivé
Vecteur d’attaque: Fonctions de jeu de rôle romantique de Meta AI accessibles aux comptes d'adolescents, y compris des personas dotés de voix de célébrités
Cause racine: Le Journal a rapporté que des employés avaient averti que les utilisateurs mineurs n'étaient pas protégés des discussions sexuellement explicites
Chronologie
- Le WSJ publie son enquête
- Des articles de suivi rapportent l'exigence de Disney et les changements opérés par Meta
Réponse
Meta a qualifié les tests de manipulateurs et d'« hypothétiques », mais a ajouté des mesures : limitation du jeu de rôle romantique aux adultes et ajout de garde-fous pour les personas accessibles aux mineurs.
Statut actuel: Contenu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- eWeek eweek.com
- Information Age (via Startup Daily) startupdaily.net
- Wall Street Journal (via To Vima) tovima.com
Citer ce dossier
WSJ : des bots de Meta AI, dont certains dotés de voix de célébrités, se livrent à des jeux de rôle sexuels avec des comptes de mineurs. AI Threat Watch, dossier wsj-meta-ai-sexual-roleplay-minors, 26 avr. 2025. https://aithreat.io/fr/cases/wsj-meta-ai-sexual-roleplay-minors/
Lien permanent: https://aithreat.io/fr/cases/wsj-meta-ai-sexual-roleplay-minors/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.