Expediente gaggle-vancouver-student-records-exposureFiltración de modelos y datosEstados Unidos
AP y The Seattle Times obtienen unos 3.500 archivos sin censurar de estudiantes señalados por la monitorización con IA de Gaggle en Vancouver, WA
Una solicitud de registros públicos presentada por The Seattle Times y AP devolvió enlaces a casi 3.500 capturas de pantalla sin censurar de textos de estudiantes marcados por la vigilancia con IA de Gaggle, relativos a suicidio, depresión, abuso y sexualidad, que podía ver cualquier persona con el enlace y sin contraseña. Al menos seis estudiantes pudieron haber sido expuestos ante las autoridades escolares por escribir sobre ser gais o transgénero.
AltaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 12 mar 2025
- Ubicación
- Estados Unidos
- Objetivo
- Estudiantes de Vancouver Public Schools, Washington
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Plataforma de monitorización estudiantil con IA Gaggle / Vancouver Public Schools
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Educación e investigación
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Una solicitud de registros públicos presentada por The Seattle Times y AP devolvió enlaces a casi 3.500 capturas de pantalla sin censurar de textos de estudiantes marcados por la vigilancia con IA de Gaggle, relativos a suicidio, depresión, abuso y sexualidad, que podía ver cualquier persona con el enlace y sin contraseña. Al menos seis estudiantes pudieron haber sido expuestos ante las autoridades escolares por escribir sobre ser gais o transgénero.
Impacto: Contenido sensible sobre salud mental, abuso y sexualidad de estudiantes identificables quedó expuesto ante periodistas; Gaggle monitoriza a unos 6 millones de estudiantes en aproximadamente 1.500 distritos
Quién lo provocó
Actor: Plataforma de monitorización estudiantil con IA Gaggle / Vancouver Public Schools
Atribución: AP y The Seattle Times; el distrito pidió disculpas y Gaggle confirmó el diseño de acceso mediante enlace
Motivo: Ninguno (fallo de diseño)
Cómo ocurrió
Vector de ataque: Enlaces sin autenticación a capturas de pantalla de contenido de estudiantes señalado por la IA
Causa raíz: Las capturas de pantalla de las alertas de Gaggle eran accesibles sin iniciar sesión; el distrito divulgó los enlaces sin darse cuenta de que no estaban protegidos
Cronología
- AP y The Seattle Times publican una investigación sobre Gaggle en Vancouver Public Schools
- Gaggle afirma que los enlaces a las capturas de pantalla ahora exigen inicio de sesión transcurridas 72 horas
Respuesta
El distrito pidió disculpas; Gaggle modificó el sistema para que las capturas de pantalla exijan inicio de sesión transcurridas 72 horas
Estado actual: Contenido
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales Privacidad y seguridad · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- AP / The Seattle Times via The Hechinger Report hechingerreport.org
- AP via News4Jax news4jax.com
Citar este expediente
AP y The Seattle Times obtienen unos 3.500 archivos sin censurar de estudiantes señalados por la monitorización con IA de Gaggle en Vancouver, WA. AI Threat Watch, expediente gaggle-vancouver-student-records-exposure, 12 mar 2025. https://aithreat.io/es/cases/gaggle-vancouver-student-records-exposure/
Enlace permanente: https://aithreat.io/es/cases/gaggle-vancouver-student-records-exposure/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.