Expediente jane-does-v-xai-tennessee-teensAbuso con deepfakesEstados Unidos
Tres adolescentes de Tennessee demandan a xAI y alegan que su IA se usó para crear imágenes sexuales de ellas siendo menores
Tres demandantes, dos de ellas menores, presentaron ante un tribunal federal de California una propuesta de demanda colectiva en la que alegan que xAI diseñó Grok de forma temeraria para que pudiera crear imágenes sexuales de niños. Sostienen que un hombre detenido en diciembre de 2025 alteró fotos de ellas y de más de otras 18 niñas y comerció con ese material en línea.
CríticaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 16 mar 2026
- Ubicación
- Estados Unidos
- Objetivo
- Alumnas de secundaria de Tennessee cuyas fotos fueron alteradas
- Gravedad
- Crítica
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- xAI (modelo Grok)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Tres demandantes, dos de ellas menores, presentaron ante un tribunal federal de California una propuesta de demanda colectiva en la que alegan que xAI diseñó Grok de forma temeraria para que pudiera crear imágenes sexuales de niños. Sostienen que un hombre detenido en diciembre de 2025 alteró fotos de ellas y de más de otras 18 niñas y comerció con ese material en línea.
Impacto: Imágenes sexualizadas de menores se difundieron en Discord y Telegram; las demandantes alegan angustia emocional
Quién lo provocó
Actor: xAI (modelo Grok)
Atribución: Demanda de las demandantes (alegaciones). NPR informó de que, según las fuerzas del orden, el autor utilizó una aplicación de terceros que funcionaba con el modelo de xAI, y no Grok ni X directamente.
Motivo: Ninguno por parte del producto; el motivo del autor fue la explotación sexual
Cómo ocurrió
Vector de ataque: Edición de imágenes con IA de fotos tomadas de Instagram, de un anuario escolar y de mensajes privados
Causa raíz: Según se alega: xAI lanzó y concedió licencias de su modelo a sabiendas de que podía sexualizar imágenes de niños
Cronología
- Detienen al sospechoso; la policía encuentra imágenes de niñas de la misma escuela
- Jane Does 1-3 presentan una propuesta de demanda colectiva contra xAI
Respuesta
xAI no respondió a las solicitudes de comentarios. La fiscalía general de California investigaba por separado las herramientas de edición de xAI.
Estado actual: En curso
Fuentes (pestaña nueva)
- NPR (via WYPR) wypr.org
- SiliconANGLE siliconangle.com
- Rolling Stone rollingstone.com
Citar este expediente
Tres adolescentes de Tennessee demandan a xAI y alegan que su IA se usó para crear imágenes sexuales de ellas siendo menores. AI Threat Watch, expediente jane-does-v-xai-tennessee-teens, 16 mar 2026. https://aithreat.io/es/cases/jane-does-v-xai-tennessee-teens/
Enlace permanente: https://aithreat.io/es/cases/jane-does-v-xai-tennessee-teens/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.