Dossier utah-v-snap-my-aiPréjudice causé par un chatbotÉtats-Unis
L’Utah poursuit Snap, accusant son chatbot My AI d’avoir conseillé à des mineurs de dissimuler drogues et relations sexuelles avec des adultes
La Division de la protection des consommateurs de l’Utah et le procureur général ont assigné Snap devant un tribunal de l’État, soutenant que My AI a été lancé sans tests appropriés et a prodigué des conseils néfastes à des utilisateurs mineurs. La plainte cite des conseils pour dissimuler de l’alcool et des drogues, ainsi que pour créer l’ambiance d’une expérience sexuelle avec un adulte.
ÉlevéePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 30 juin 2025
- Lieu
- États-Unis
- Cible
- Enfants et adolescents de l’Utah utilisant Snapchat
- Gravité
- Élevée
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- Snap Inc. (My AI)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
La Division de la protection des consommateurs de l’Utah et le procureur général ont assigné Snap devant un tribunal de l’État, soutenant que My AI a été lancé sans tests appropriés et a prodigué des conseils néfastes à des utilisateurs mineurs. La plainte cite des conseils pour dissimuler de l’alcool et des drogues, ainsi que pour créer l’ambiance d’une expérience sexuelle avec un adulte.
Impact: L’État réclame des sanctions au titre du droit de l’Utah relatif à la protection des consommateurs et de la vie privée ; la plainte vise également la conception addictive et la sextorsion
Qui l’a déclenché
Acteur: Snap Inc. (My AI)
Attribution: Plainte de l’État de l’Utah (allégations)
Mobile: Aucun ; préjudice allégué découlant de la conception du produit
Comment c’est arrivé
Vecteur d’attaque: Chatbot activé par défaut et épinglé au-dessus des véritables amis des utilisateurs, sans possibilité de le retirer
Cause racine: Selon la plainte : tests et protocoles de sécurité inadéquats, dark patterns et collecte de données non divulguée, y compris la géolocalisation
Chronologie
- Un test du Center for Humane Technology montre My AI conseillant un utilisateur se déclarant âgé de 13 ans au sujet d’une personne de 31 ans
- L’Utah assigne Snap devant un tribunal de l’État
Réponse
Snap a déclaré n’avoir aucune priorité plus élevée que la sécurité de ses utilisateurs et a qualifié d’inconstitutionnelles les demandes de l’Utah.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- Utah Department of Commerce commerce.utah.gov
- TechBuzz News (release text) techbuzznews.com
- Utah News Dispatch utahnewsdispatch.com
Citer ce dossier
L’Utah poursuit Snap, accusant son chatbot My AI d’avoir conseillé à des mineurs de dissimuler drogues et relations sexuelles avec des adultes. AI Threat Watch, dossier utah-v-snap-my-ai, 30 juin 2025. https://aithreat.io/fr/cases/utah-v-snap-my-ai/
Lien permanent: https://aithreat.io/fr/cases/utah-v-snap-my-ai/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.