Expediente lausd-allhere-ed-chatbot-dataFiltración de modelos y datosEstados Unidos
Un denunciante afirma que el chatbot de IA “Ed” de LAUSD, valorado en 6.000.000 USD, envió datos de estudiantes al extranjero antes del colapso del proveedor AllHere
Un exdirector de ingeniería de AllHere alegó que el chatbot “Ed”, creado para el Distrito Escolar Unificado de Los Ángeles, incluía datos personales de los estudiantes en cada consulta a la IA, los compartía con terceros y procesaba la mayoría de las solicitudes en servidores en el extranjero. LAUSD desactivó el chatbot después de que AllHere pusiera en suspensión temporal a la mayor parte de su personal en junio de 2024, y afirmó que los datos de los estudiantes seguían protegidos.
MediaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 1 jul 2024
- Ubicación
- Estados Unidos
- Objetivo
- Estudiantes del Distrito Escolar Unificado de Los Ángeles (LAUSD)
- Gravedad
- Media
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- AllHere Education (proveedor)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Educación e investigación
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Un exdirector de ingeniería de AllHere alegó que el chatbot “Ed”, creado para el Distrito Escolar Unificado de Los Ángeles, incluía datos personales de los estudiantes en cada consulta a la IA, los compartía con terceros y procesaba la mayoría de las solicitudes en servidores en el extranjero. LAUSD desactivó el chatbot después de que AllHere pusiera en suspensión temporal a la mayor parte de su personal en junio de 2024, y afirmó que los datos de los estudiantes seguían protegidos.
Impacto: Chatbot desactivado pocos meses después de su lanzamiento; se pagó cerca de la mitad de un contrato de unos 6.000.000 USD; riesgo de exposición de datos de estudiantes
Quién lo provocó
Actor: AllHere Education (proveedor)
Atribución: Alegaciones de un denunciante publicadas por The 74; LAUSD no las ha confirmado
Motivo: Ninguno (presunta mala gestión de los datos)
Cómo ocurrió
Vector de ataque: Chatbot de IA de un tercero integrado con los registros de estudiantes del distrito
Causa raíz: Presunta falta de minimización de datos en las consultas y procesamiento en el extranjero; colapso financiero del proveedor
Cronología
- LAUSD lanza el chatbot “Ed” (solo se indica el mes)
- AllHere afirma que la mayoría de sus empleados fueron puestos en suspensión temporal; el chatbot se desactiva
- The 74 publica las alegaciones del denunciante sobre el tratamiento de datos
Respuesta
LAUSD rescindió su relación con AllHere y afirmó que los datos de Ed siguen siendo propiedad del distrito y están protegidos; el inspector general entrevistó al denunciante
Estado actual: Contenido
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales Privacidad y seguridad · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
Citar este expediente
Un denunciante afirma que el chatbot de IA “Ed” de LAUSD, valorado en 6.000.000 USD, envió datos de estudiantes al extranjero antes del colapso del proveedor AllHere. AI Threat Watch, expediente lausd-allhere-ed-chatbot-data, 1 jul 2024. https://aithreat.io/es/cases/lausd-allhere-ed-chatbot-data/
Enlace permanente: https://aithreat.io/es/cases/lausd-allhere-ed-chatbot-data/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.