Dossier kenwood-omnilert-doritos-false-alarmDéfaillance d’un outil d’IAÉtats-Unis
Le système de détection d'armes par IA d'Omnilert prend le sachet de chips d'un élève pour une arme dans un établissement du comté de Baltimore ; la police le menotte
Le système de caméras à IA d'Omnilert a signalé comme une possible arme à feu un sachet de Doritos vide tenu par un élève après l'entraînement de football américain, et des policiers armés l'ont fouillé et menotté. L'équipe de sécurité du district avait pourtant déjà annulé l'alerte, mais le principal, qui ignorait cette annulation, l'a signalée à l'agent de sécurité scolaire (school resource officer), lequel a appelé la police.
MoyennePréjudice causé par l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 25 oct. 2025
- Lieu
- États-Unis
- Cible
- Élève du lycée Kenwood High School, Baltimore County Public Schools, Maryland
- Gravité
- Moyenne
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Système de détection d'armes par IA d'Omnilert
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Éducation et recherche
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Le système de caméras à IA d'Omnilert a signalé comme une possible arme à feu un sachet de Doritos vide tenu par un élève après l'entraînement de football américain, et des policiers armés l'ont fouillé et menotté. L'équipe de sécurité du district avait pourtant déjà annulé l'alerte, mais le principal, qui ignorait cette annulation, l'a signalée à l'agent de sécurité scolaire (school resource officer), lequel a appelé la police.
Impact: Un élève a été contraint de se mettre à genoux, puis menotté et fouillé par des policiers armés ; aucune arme n'a été trouvée
Qui l’a déclenché
Acteur: Système de détection d'armes par IA d'Omnilert
Attribution: Omnilert a confirmé que son système avait déclenché l'alerte ; Baltimore County Public Schools a confirmé que l'alerte avait été examinée et annulée avant l'arrivée de la police
Mobile: Aucun (faux positif)
Comment c’est arrivé
Vecteur d’attaque: Analyse vidéo par IA appliquée aux caméras de sécurité existantes de l'établissement
Cause racine: Faux positif de vision par ordinateur, conjugué à une défaillance de la transmission de la revue humaine entre la sécurité du district et le personnel de l'établissement
Chronologie
- Le système d'IA signale un sachet de chips devant le lycée Kenwood High School ; la police fouille et menotte l'élève
- L'incident est relayé au niveau national ; Omnilert et le district réagissent
- Des membres du conseil du comté demandent un examen du système de détection d'armes par IA
Réponse
Omnilert a exprimé ses regrets tout en affirmant que le processus avait fonctionné comme prévu ; des membres du conseil du comté ont réclamé un examen du système ; le directeur académique (superintendent) a déclaré que ces revues font partie des pratiques habituelles
Statut actuel: Résolu
Sources (nouvel onglet)
- TechCrunch techcrunch.com
- ABC7 / Associated Press abc7.com
Citer ce dossier
Le système de détection d'armes par IA d'Omnilert prend le sachet de chips d'un élève pour une arme dans un établissement du comté de Baltimore ; la police le menotte. AI Threat Watch, dossier kenwood-omnilert-doritos-false-alarm, 25 oct. 2025. https://aithreat.io/fr/cases/kenwood-omnilert-doritos-false-alarm/
Lien permanent: https://aithreat.io/fr/cases/kenwood-omnilert-doritos-false-alarm/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.