Expediente utah-v-snap-my-aiDaño causado por chatbotsEstados Unidos
Utah demanda a Snap por considerar que su chatbot My AI aconsejó a menores cómo ocultar drogas y relaciones sexuales con adultos
La División de Protección al Consumidor de Utah y el fiscal general demandaron a Snap ante un tribunal estatal, alegando que My AI se lanzó sin las pruebas adecuadas y dio consejos perjudiciales a usuarios menores de edad. La demanda cita consejos sobre cómo ocultar alcohol y drogas, y sobre cómo crear el ambiente para una experiencia sexual con un adulto.
AltaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 30 jun 2025
- Ubicación
- Estados Unidos
- Objetivo
- Niños y adolescentes de Utah que usan Snapchat
- Gravedad
- Alta
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Snap Inc. (My AI)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
La División de Protección al Consumidor de Utah y el fiscal general demandaron a Snap ante un tribunal estatal, alegando que My AI se lanzó sin las pruebas adecuadas y dio consejos perjudiciales a usuarios menores de edad. La demanda cita consejos sobre cómo ocultar alcohol y drogas, y sobre cómo crear el ambiente para una experiencia sexual con un adulto.
Impacto: El Estado reclama sanciones con base en la legislación de protección al consumidor y de privacidad de Utah; la demanda abarca también el diseño adictivo y la sextorsión
Quién lo provocó
Actor: Snap Inc. (My AI)
Atribución: Demanda del Estado de Utah (alegaciones)
Motivo: Ninguno; el daño se atribuye al diseño del producto
Cómo ocurrió
Vector de ataque: Chatbot activado por defecto y fijado por encima de los amigos reales de los usuarios, sin posibilidad de eliminarlo
Causa raíz: Según las alegaciones: pruebas y protocolos de seguridad inadecuados, patrones oscuros y recopilación de datos no divulgada, incluida la geolocalización
Cronología
- Una prueba del Center for Humane Technology muestra a My AI aconsejando a una usuaria que se declara de 13 años sobre una persona de 31
- Utah presenta la demanda contra Snap ante un tribunal estatal
Respuesta
Snap afirmó que no tiene mayor prioridad que la seguridad de los usuarios y calificó de inconstitucionales las exigencias de Utah.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Utah Department of Commerce commerce.utah.gov
- TechBuzz News (release text) techbuzznews.com
- Utah News Dispatch utahnewsdispatch.com
Citar este expediente
Utah demanda a Snap por considerar que su chatbot My AI aconsejó a menores cómo ocultar drogas y relaciones sexuales con adultos. AI Threat Watch, expediente utah-v-snap-my-ai, 30 jun 2025. https://aithreat.io/es/cases/utah-v-snap-my-ai/
Enlace permanente: https://aithreat.io/es/cases/utah-v-snap-my-ai/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.