Expediente lawrence-gaggle-surveillance-lawsuitFallo de herramienta de IAEstados Unidos
Nueve estudiantes de Lawrence, Kansas, demandan al distrito por la vigilancia con IA de Gaggle, que marcó y eliminó sus trabajos
Nueve estudiantes actuales y antiguos demandaron a Lawrence Public Schools ante un tribunal federal, alegando que el sistema de monitorización con IA Gaggle marcó frases inocuas como “mi salud mental”, interceptó borradores de periodismo estudiantil y eliminó obras de arte originales de las cuentas escolares. Alegan violaciones de la Primera y la Cuarta Enmienda y solicitan una orden judicial que ponga fin al uso de Gaggle.
MediaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 1 ago 2025
- Ubicación
- Estados Unidos
- Objetivo
- Estudiantes de Lawrence Public Schools (USD 497), Kansas
- Gravedad
- Media
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Monitorización con IA de Gaggle tal como la despliega Lawrence Public Schools
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Educación e investigación
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Nueve estudiantes actuales y antiguos demandaron a Lawrence Public Schools ante un tribunal federal, alegando que el sistema de monitorización con IA Gaggle marcó frases inocuas como “mi salud mental”, interceptó borradores de periodismo estudiantil y eliminó obras de arte originales de las cuentas escolares. Alegan violaciones de la Primera y la Cuarta Enmienda y solicitan una orden judicial que ponga fin al uso de Gaggle.
Impacto: Presuntos bloqueos de ediciones del periódico estudiantil, eliminación de correos electrónicos y obras de arte, y estudiantes interrogados por trabajos aprobados
Quién lo provocó
Actor: Monitorización con IA de Gaggle tal como la despliega Lawrence Public Schools
Atribución: Alegaciones de la demanda federal presentada por los estudiantes
Motivo: Ninguno (marcado automatizado excesivamente amplio)
Cómo ocurrió
Vector de ataque: Escaneo con IA de las cuentas escolares de Google Workspace
Causa raíz: Marcado basado en palabras clave e IA que captura contenido benigno y, según las alegaciones, lo elimina
Cronología
- El distrito adquiere Gaggle (fecha de inicio indicada como agosto o noviembre de 2023)
- Nueve estudiantes presentan la demanda ante el Tribunal de Distrito de EE. UU. para Kansas
Respuesta
El distrito declinó comentar el litigio; había dicho en 2024 que seguiría usando Gaggle con un contrato de tres años que termina en julio de 2026
Estado actual: En curso
Fuentes (pestaña nueva)
- The Lawrence Times lawrencekstimes.com
- The Kansas City Star via GovTech govtech.com
Citar este expediente
Nueve estudiantes de Lawrence, Kansas, demandan al distrito por la vigilancia con IA de Gaggle, que marcó y eliminó sus trabajos. AI Threat Watch, expediente lawrence-gaggle-surveillance-lawsuit, 1 ago 2025. https://aithreat.io/es/cases/lawrence-gaggle-surveillance-lawsuit/
Enlace permanente: https://aithreat.io/es/cases/lawrence-gaggle-surveillance-lawsuit/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.