Dossier brazil-agu-meta-childlike-chatbotsPréjudice causé par un chatbotBrésil
Le gouvernement brésilien ordonne à Meta de retirer les bots d’AI Studio aux personas enfantines qui tiennent des conversations sexuelles
Le bureau du procureur général du Brésil (AGU) a adressé à Meta une notification extrajudiciaire datée du 15 août 2025, exigeant le retrait des chatbots créés par des utilisateurs sur Meta AI Studio qui tenaient des conversations sexuelles tout en se présentant comme des enfants. Il a accordé à Meta un délai de 72 heures et lui a demandé quelles mesures empêchent les mineurs d’accéder à des contenus sexuels.
ÉlevéePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 18 août 2025
- Lieu
- Brésil
- Cible
- Mineurs brésiliens de 13 à 18 ans utilisant les plateformes de Meta
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Meta Platforms (Meta AI Studio)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Le bureau du procureur général du Brésil (AGU) a adressé à Meta une notification extrajudiciaire datée du 15 août 2025, exigeant le retrait des chatbots créés par des utilisateurs sur Meta AI Studio qui tenaient des conversations sexuelles tout en se présentant comme des enfants. Il a accordé à Meta un délai de 72 heures et lui a demandé quelles mesures empêchent les mineurs d’accéder à des contenus sexuels.
Impact: Notification fédérale invoquant le Statut de l’enfant et de l’adolescent ainsi que le Code pénal ; aucune sanction associée
Qui l’a déclenché
Acteur: Meta Platforms (Meta AI Studio)
Attribution: Advocacia-Geral da Uniao (AGU), à la suite d’enquêtes journalistiques de Reuters et de Nucleo
Mobile: Aucun ; le préjudice provient de bots créés par des utilisateurs et hébergés par le produit
Comment c’est arrivé
Vecteur d’attaque: Chatbots créés par des utilisateurs, tels que « Bebezinha » et « Minha Novinha », sur Instagram, Facebook et WhatsApp, accessibles dès l’âge de 13 ans
Cause racine: Absence de filtres d’âge efficaces et modération insuffisante des personas créées par les utilisateurs
Chronologie
- L’AGU adresse une notification extrajudiciaire à Meta
- La notification est rendue publique ; le délai de 72 heures expire
Réponse
Meta n’a pas publié de déclaration officielle à ce moment-là. L’AGU a rappelé à Meta que les plateformes doivent retirer les contenus illicites dès qu’elles en sont notifiées.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Business & Human Rights Resource Centre business-humanrights.org
- PPC Land ppc.land
- Digital Policy Alert digitalpolicyalert.org
Citer ce dossier
Le gouvernement brésilien ordonne à Meta de retirer les bots d’AI Studio aux personas enfantines qui tiennent des conversations sexuelles. AI Threat Watch, dossier brazil-agu-meta-childlike-chatbots, 18 août 2025. https://aithreat.io/fr/cases/brazil-agu-meta-childlike-chatbots/
Lien permanent: https://aithreat.io/fr/cases/brazil-agu-meta-childlike-chatbots/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.