Expediente kenwood-omnilert-doritos-false-alarmFallo de herramienta de IAEstados Unidos
La detección de armas con IA de Omnilert señala como posible arma la bolsa de snacks de un estudiante en una escuela del condado de Baltimore; la policía lo esposa
El sistema de cámaras con IA de Omnilert señaló como posible arma de fuego una bolsa vacía de Doritos que sostenía un estudiante tras el entrenamiento de fútbol americano, y policías armados lo registraron y lo esposaron. El equipo de seguridad del distrito ya había cancelado la alerta, pero el director, que desconocía la cancelación, la comunicó al oficial de recursos escolares, quien llamó a la policía.
MediaDaño causado por la IAEstado: ResueltoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 25 oct 2025
- Ubicación
- Estados Unidos
- Objetivo
- Estudiante de Kenwood High School, Baltimore County Public Schools, Maryland
- Gravedad
- Media
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Sistema de detección de armas con IA de Omnilert
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Educación e investigación
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
El sistema de cámaras con IA de Omnilert señaló como posible arma de fuego una bolsa vacía de Doritos que sostenía un estudiante tras el entrenamiento de fútbol americano, y policías armados lo registraron y lo esposaron. El equipo de seguridad del distrito ya había cancelado la alerta, pero el director, que desconocía la cancelación, la comunicó al oficial de recursos escolares, quien llamó a la policía.
Impacto: Agentes armados obligaron a un estudiante a ponerse de rodillas, lo esposaron y lo registraron; no se encontró ningún arma
Quién lo provocó
Actor: Sistema de detección de armas con IA de Omnilert
Atribución: Omnilert confirmó que su sistema generó la alerta; Baltimore County Public Schools confirmó que la alerta fue revisada y cancelada antes de que llegara la policía
Motivo: Ninguno (falso positivo)
Cómo ocurrió
Vector de ataque: Analítica de vídeo con IA aplicada a las cámaras de seguridad ya existentes en la escuela
Causa raíz: Falso positivo de visión artificial combinado con un fallo en el traspaso de la revisión humana entre el equipo de seguridad del distrito y el personal de la escuela
Cronología
- El sistema de IA señala una bolsa de snacks frente a Kenwood High School; la policía registra y esposa al estudiante
- El incidente se difunde a escala nacional; Omnilert y el distrito responden
- Miembros del consejo del condado piden una revisión del sistema de detección de armas con IA
Respuesta
Omnilert expresó pesar, pero afirmó que el proceso funcionó como estaba previsto; miembros del consejo del condado pidieron una revisión del sistema; el superintendente indicó que las revisiones forman parte de la práctica habitual
Estado actual: Resuelto
Fuentes (pestaña nueva)
- TechCrunch techcrunch.com
- ABC7 / Associated Press abc7.com
Citar este expediente
La detección de armas con IA de Omnilert señala como posible arma la bolsa de snacks de un estudiante en una escuela del condado de Baltimore; la policía lo esposa. AI Threat Watch, expediente kenwood-omnilert-doritos-false-alarm, 25 oct 2025. https://aithreat.io/es/cases/kenwood-omnilert-doritos-false-alarm/
Enlace permanente: https://aithreat.io/es/cases/kenwood-omnilert-doritos-false-alarm/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.