Dossier ftc-6b-ai-companion-inquiryPréjudice causé par un chatbotÉtats-Unis
La FTC américaine ordonne à sept entreprises d'expliquer comment leurs chatbots compagnons protègent les enfants et les adolescents
La Federal Trade Commission a voté à 3 voix contre 0 l'émission d'ordonnances au titre de l'article 6(b) à l'attention d'Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap et xAI. Elle demande des précisions sur la manière dont ces entreprises testent et limitent les préjudices causés aux mineurs, monétisent l'engagement et respectent la loi COPPA.
ÉlevéePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 11 sept. 2025
- Lieu
- États-Unis
- Cible
- Enfants et adolescents utilisant des chatbots compagnons IA
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap, xAI
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
La Federal Trade Commission a voté à 3 voix contre 0 l'émission d'ordonnances au titre de l'article 6(b) à l'attention d'Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap et xAI. Elle demande des précisions sur la manière dont ces entreprises testent et limitent les préjudices causés aux mineurs, monétisent l'engagement et respectent la loi COPPA.
Impact: Sept entreprises contraintes de fournir des informations sur les tests de sécurité, l'approbation des personnages, les limites d'âge et l'utilisation des données
Qui l’a déclenché
Acteur: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap, xAI
Attribution: Federal Trade Commission des États-Unis
Mobile: Aucun ; enquête réglementaire sur la conception des produits
Comment c’est arrivé
Vecteur d’attaque: Chatbots compagnons conçus pour jouer le rôle d'ami ou de confident, ce qui, selon la FTC, peut conduire les enfants et les adolescents à leur faire confiance et à nouer des relations avec eux
Cause racine: Crainte que les entreprises n'aient pas évalué correctement la sécurité de leurs chatbots pour les mineurs ni averti les parents des risques
Chronologie
- La FTC annonce l'envoi d'ordonnances 6(b) à sept entreprises
Réponse
Le président Andrew Ferguson a déclaré que la protection des enfants en ligne est une priorité absolue. Une étude 6(b) n'est pas en soi une mesure d'exécution.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- US Federal Trade Commission ftc.gov
- DLA Piper dlapiper.com
Citer ce dossier
La FTC américaine ordonne à sept entreprises d'expliquer comment leurs chatbots compagnons protègent les enfants et les adolescents. AI Threat Watch, dossier ftc-6b-ai-companion-inquiry, 11 sept. 2025. https://aithreat.io/fr/cases/ftc-6b-ai-companion-inquiry/
Lien permanent: https://aithreat.io/fr/cases/ftc-6b-ai-companion-inquiry/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.