Dossier meta-genai-standards-sensual-chats-childrenPréjudice causé par un chatbotÉtats-Unis
Reuters : les règles internes de Meta en matière d’IA autorisaient les chatbots à tenir des conversations « romantiques ou sensuelles » avec des enfants
Reuters s’est procuré le document de 200 pages de Meta intitulé « GenAI: Content Risk Standards », dont Meta a confirmé l’authenticité. Le document autorisait les bots à engager avec un enfant une conversation romantique ou sensuelle et à vanter l’apparence d’un enfant de huit ans torse nu, tout en interdisant de décrire des enfants de moins de 13 ans comme sexuellement désirables.
ÉlevéePréjudice causé par l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 14 août 2025
- Lieu
- États-Unis
- Cible
- Enfants utilisant Meta AI sur Facebook, Instagram et WhatsApp
- Gravité
- Élevée
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- Meta Platforms (Meta AI et personas d’IA)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Reuters s’est procuré le document de 200 pages de Meta intitulé « GenAI: Content Risk Standards », dont Meta a confirmé l’authenticité. Le document autorisait les bots à engager avec un enfant une conversation romantique ou sensuelle et à vanter l’apparence d’un enfant de huit ans torse nu, tout en interdisant de décrire des enfants de moins de 13 ans comme sexuellement désirables.
Impact: A déclenché une enquête du Sénat américain et une demande du gouvernement brésilien visant le retrait des bots sexuels à l’apparence enfantine
Qui l’a déclenché
Acteur: Meta Platforms (Meta AI et personas d’IA)
Attribution: Document de politique interne de Meta rapporté par Reuters ; authenticité confirmée par Meta
Mobile: Aucun ; le préjudice découle de la conception de la politique de contenu
Comment c’est arrivé
Vecteur d’attaque: Règles de contenu des chatbots approuvées par les équipes juridiques, de politique publique et d’ingénierie de Meta
Cause racine: Normes de contenu autorisant explicitement des jeux de rôle romantiques ou sensuels avec des mineurs
Chronologie
- Reuters publie les normes internes
- Le sénateur Josh Hawley annonce l’ouverture d’une enquête sur Meta
Réponse
Meta a déclaré que les exemples étaient erronés et avaient été supprimés, et a admis que l’application des règles avait été incohérente. Le sénateur Josh Hawley a ouvert une enquête le 15 août 2025.
Statut actuel: Contenu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Reuters (via Global News) globalnews.ca
- BBC (via Graphic Online) graphic.com.gh
Citer ce dossier
Reuters : les règles internes de Meta en matière d’IA autorisaient les chatbots à tenir des conversations « romantiques ou sensuelles » avec des enfants. AI Threat Watch, dossier meta-genai-standards-sensual-chats-children, 14 août 2025. https://aithreat.io/fr/cases/meta-genai-standards-sensual-chats-children/
Lien permanent: https://aithreat.io/fr/cases/meta-genai-standards-sensual-chats-children/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.