Dossier evolv-ftc-school-weapons-scannerDéfaillance d’un outil d’IAÉtats-Unis
La FTC sanctionne Evolv après que ses scanners d'armes par IA n'ont pas détecté un couteau utilisé pour poignarder un élève dans une école
La FTC reproche à Evolv d'avoir affirmé de façon trompeuse que ses scanners Evolv Express, dotés d'IA, détecteraient toutes les armes, en citant un cas d'octobre 2022 où un couteau de sept pouces n'a pas été détecté dans une école et a servi à poignarder un élève. Evolv doit permettre à certains clients du primaire et du secondaire (K-12) de résilier leurs contrats, et il lui est interdit de formuler des allégations non étayées sur la détection par IA.
ÉlevéePréjudice causé par l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 26 nov. 2024
- Lieu
- États-Unis
- Cible
- Établissements K-12 utilisant les scanners d'armes par IA Evolv Express (plus de 800 écoles)
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Evolv Technologies
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Éducation et recherche
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
La FTC reproche à Evolv d'avoir affirmé de façon trompeuse que ses scanners Evolv Express, dotés d'IA, détecteraient toutes les armes, en citant un cas d'octobre 2022 où un couteau de sept pouces n'a pas été détecté dans une école et a servi à poignarder un élève. Evolv doit permettre à certains clients du primaire et du secondaire (K-12) de résilier leurs contrats, et il lui est interdit de formuler des allégations non étayées sur la détection par IA.
Impact: Élève poignardé avec un couteau que le scanner n'avait pas détecté ; écoles liées par des contrats pluriannuels ; taux de fausses alarmes pouvant atteindre 50 % après relèvement de la sensibilité
Qui l’a déclenché
Acteur: Evolv Technologies
Attribution: Plainte de la Federal Trade Commission (FTC) des États-Unis et ordonnance consensuelle
Mobile: Commercial (capacités de l'IA surestimées)
Comment c’est arrivé
Vecteur d’attaque: Détection d'armes par IA aux entrées des écoles
Cause racine: Les scanners laissaient passer des armes et produisaient de nombreuses fausses alarmes, alors qu'ils étaient commercialisés comme précis grâce à l'IA
Chronologie
- Le scanner ne détecte pas un couteau utilisé ensuite pour poignarder un élève dans une école (seul le mois est communiqué)
- La FTC annonce sa plainte et un projet de règlement amiable
Réponse
L'ordonnance proposée permet aux clients K-12 ayant signé d'avril 2022 à juin 2023 de résilier leur contrat ; aucune réparation financière
Statut actuel: Résolu
Sources (nouvel onglet)
- US Federal Trade Commission ftc.gov
- KSL ksl.com
Citer ce dossier
La FTC sanctionne Evolv après que ses scanners d'armes par IA n'ont pas détecté un couteau utilisé pour poignarder un élève dans une école. AI Threat Watch, dossier evolv-ftc-school-weapons-scanner, 26 nov. 2024. https://aithreat.io/fr/cases/evolv-ftc-school-weapons-scanner/
Lien permanent: https://aithreat.io/fr/cases/evolv-ftc-school-weapons-scanner/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.