Dossier gaggle-vancouver-student-records-exposureFuite de modèle et de donnéesÉtats-Unis
L'AP et le Seattle Times obtiennent environ 3 500 fichiers d'élèves non expurgés signalés par la surveillance par IA de Gaggle à Vancouver (Washington)
Une demande d'accès aux documents administratifs déposée par The Seattle Times et l'AP a permis d'obtenir des liens vers près de 3 500 captures d'écran non expurgées de textes d'élèves signalés par le système de surveillance par IA de Gaggle, portant sur le suicide, la dépression, la maltraitance et la sexualité, consultables par toute personne disposant du lien, sans mot de passe. Au moins six élèves ont potentiellement été exposés (outés) auprès de responsables scolaires en raison de textes évoquant leur homosexualité ou leur transidentité.
ÉlevéePréjudice causé par l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 12 mars 2025
- Lieu
- États-Unis
- Cible
- Élèves des Vancouver Public Schools, État de Washington
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Plateforme de surveillance des élèves par IA Gaggle / Vancouver Public Schools
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Éducation et recherche
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Une demande d'accès aux documents administratifs déposée par The Seattle Times et l'AP a permis d'obtenir des liens vers près de 3 500 captures d'écran non expurgées de textes d'élèves signalés par le système de surveillance par IA de Gaggle, portant sur le suicide, la dépression, la maltraitance et la sexualité, consultables par toute personne disposant du lien, sans mot de passe. Au moins six élèves ont potentiellement été exposés (outés) auprès de responsables scolaires en raison de textes évoquant leur homosexualité ou leur transidentité.
Impact: Contenus sensibles relatifs à la santé mentale, à la maltraitance et à la sexualité d'élèves identifiables exposés à des journalistes ; Gaggle surveille environ 6 millions d'élèves dans environ 1 500 districts
Qui l’a déclenché
Acteur: Plateforme de surveillance des élèves par IA Gaggle / Vancouver Public Schools
Attribution: AP et The Seattle Times ; le district a présenté ses excuses et Gaggle a confirmé la conception du système fondée sur l'accès par lien
Mobile: Aucun (défaut de conception)
Comment c’est arrivé
Vecteur d’attaque: Liens non authentifiés vers des captures d'écran de contenus d'élèves signalés par l'IA
Cause racine: Les captures d'écran des alertes Gaggle étaient accessibles sans authentification ; le district a communiqué les liens sans se rendre compte qu'ils n'étaient pas protégés
Chronologie
- L'AP et The Seattle Times publient une enquête sur Gaggle dans les Vancouver Public Schools
- Gaggle indique que les liens vers les captures d'écran exigent désormais une authentification après 72 heures
Réponse
Le district a présenté ses excuses ; Gaggle a modifié le système afin que les captures d'écran exigent une authentification au bout de 72 heures
Statut actuel: Contenu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels Vie privée et sécurité · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- AP / The Seattle Times via The Hechinger Report hechingerreport.org
- AP via News4Jax news4jax.com
Citer ce dossier
L'AP et le Seattle Times obtiennent environ 3 500 fichiers d'élèves non expurgés signalés par la surveillance par IA de Gaggle à Vancouver (Washington). AI Threat Watch, dossier gaggle-vancouver-student-records-exposure, 12 mars 2025. https://aithreat.io/fr/cases/gaggle-vancouver-student-records-exposure/
Lien permanent: https://aithreat.io/fr/cases/gaggle-vancouver-student-records-exposure/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.