Expediente ico-snap-my-ai-preliminary-noticeDaño causado por chatbotsReino Unido
La ICO del Reino Unido emite una notificación preliminar de sanción a Snap por los riesgos de privacidad de My AI para menores
La Oficina del Comisionado de Información (ICO) concluyó de forma provisional que Snap no había evaluado adecuadamente, antes del lanzamiento, los riesgos de protección de datos de su chatbot de IA generativa My AI, especialmente para los menores. Una notificación definitiva podría haber obligado a Snap a dejar de ofrecer My AI en el Reino Unido.
AltaDaño causado por la IAEstado: ResueltoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 6 oct 2023
- Ubicación
- Reino Unido
- Objetivo
- Usuarios de Snapchat en el Reino Unido que usan My AI, incluidos menores de entre 13 y 17 años
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Snap Inc. (My AI, basado en modelos de OpenAI)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
La Oficina del Comisionado de Información (ICO) concluyó de forma provisional que Snap no había evaluado adecuadamente, antes del lanzamiento, los riesgos de protección de datos de su chatbot de IA generativa My AI, especialmente para los menores. Una notificación definitiva podría haber obligado a Snap a dejar de ofrecer My AI en el Reino Unido.
Impacto: Notificación preliminar de sanción; la primera actuación de la ICO contra un producto de IA generativa
Quién lo provocó
Actor: Snap Inc. (My AI, basado en modelos de OpenAI)
Atribución: Oficina del Comisionado de Información del Reino Unido (ICO)
Motivo: Ninguno; actuación del regulador en relación con la evaluación de riesgos del producto
Cómo ocurrió
Vector de ataque: Chatbot fijado en la parte superior de los chats de los usuarios de Snapchat y utilizado por millones de adolescentes británicos
Causa raíz: Evaluación de riesgos de protección de datos insuficiente antes del lanzamiento
Cronología
- My AI se despliega para todos los usuarios de Snapchat en el Reino Unido
- La ICO emite una notificación preliminar de sanción
- La ICO concluye la investigación sin notificación definitiva
Respuesta
Snap afirmó que estaba revisando las conclusiones. En mayo de 2024, la ICO cerró el caso sin notificación definitiva después de que Snap completara una evaluación de riesgos conforme a la normativa.
Estado actual: Resuelto
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- LBC lbc.co.uk
- Addleshaw Goddard addleshawgoddard.com
- ICO via Wired-Gov wired-gov.net
Citar este expediente
La ICO del Reino Unido emite una notificación preliminar de sanción a Snap por los riesgos de privacidad de My AI para menores. AI Threat Watch, expediente ico-snap-my-ai-preliminary-notice, 6 oct 2023. https://aithreat.io/es/cases/ico-snap-my-ai-preliminary-notice/
Enlace permanente: https://aithreat.io/es/cases/ico-snap-my-ai-preliminary-notice/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.