Dossier lausd-allhere-ed-chatbot-dataFuite de modèle et de donnéesÉtats-Unis
Un lanceur d’alerte affirme que le chatbot d’IA « Ed » du LAUSD, facturé 6 M$, a envoyé des données d’élèves à l’étranger avant l’effondrement de son éditeur AllHere
Un ancien directeur de l’ingénierie d’AllHere affirme que le chatbot « Ed », conçu pour le Los Angeles Unified, intégrait des données personnelles d’élèves dans chaque requête adressée à l’IA, les partageait avec des tiers et traitait la plupart des requêtes sur des serveurs situés à l’étranger. Le LAUSD a désactivé le chatbot après qu’AllHere a mis la majorité de son personnel en chômage technique en juin 2024, et a déclaré que les données des élèves étaient restées protégées.
MoyennePréjudice causé par l’IAStatut: ContenuDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 1 juil. 2024
- Lieu
- États-Unis
- Cible
- Élèves du Los Angeles Unified School District
- Gravité
- Moyenne
- Vérification
- Rapporté par la presse ou des chercheurs fiables
- Déclenché par
- AllHere Education (éditeur)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Éducation et recherche
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Un ancien directeur de l’ingénierie d’AllHere affirme que le chatbot « Ed », conçu pour le Los Angeles Unified, intégrait des données personnelles d’élèves dans chaque requête adressée à l’IA, les partageait avec des tiers et traitait la plupart des requêtes sur des serveurs situés à l’étranger. Le LAUSD a désactivé le chatbot après qu’AllHere a mis la majorité de son personnel en chômage technique en juin 2024, et a déclaré que les données des élèves étaient restées protégées.
Impact: Chatbot désactivé quelques mois après son lancement ; environ la moitié d’un contrat d’environ 6 millions de dollars versée ; risque d’exposition des données des élèves
Qui l’a déclenché
Acteur: AllHere Education (éditeur)
Attribution: Allégations d’un lanceur d’alerte rapportées par The 74 ; non confirmées par le LAUSD
Mobile: Aucun (traitement des données présumé défaillant)
Comment c’est arrivé
Vecteur d’attaque: Chatbot d’IA tiers intégré aux dossiers des élèves du district
Cause racine: Absence présumée de minimisation des données dans les requêtes et traitement hors du territoire américain ; effondrement financier de l’éditeur
Chronologie
- Le LAUSD lance le chatbot « Ed » (mois seulement)
- AllHere indique que la plupart de ses employés sont en chômage technique ; le chatbot est désactivé
- The 74 publie les allégations du lanceur d’alerte sur le traitement des données
Réponse
Le LAUSD a abandonné AllHere et déclaré que les données d’Ed restent la propriété du district et sont protégées ; l’inspecteur général a interrogé le lanceur d’alerte
Statut actuel: Contenu
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels Vie privée et sécurité · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
Citer ce dossier
Un lanceur d’alerte affirme que le chatbot d’IA « Ed » du LAUSD, facturé 6 M$, a envoyé des données d’élèves à l’étranger avant l’effondrement de son éditeur AllHere. AI Threat Watch, dossier lausd-allhere-ed-chatbot-data, 1 juil. 2024. https://aithreat.io/fr/cases/lausd-allhere-ed-chatbot-data/
Lien permanent: https://aithreat.io/fr/cases/lausd-allhere-ed-chatbot-data/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.