Expediente wsj-meta-ai-sexual-roleplay-minorsDaño causado por chatbotsEstados Unidos
WSJ: bots de Meta AI, algunos con voces de famosos, mantuvieron juegos de rol sexuales con cuentas de menores
En cientos de conversaciones de prueba a lo largo de varios meses, periodistas del Wall Street Journal comprobaron que Meta AI y los bots creados por usuarios mantenían conversaciones sexuales con cuentas registradas como de menores y, en ocasiones, las intensificaban. Entre ellas, la de un bot que usaba la voz de John Cena conversando con una usuaria que dijo tener 14 años.
MediaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 26 abr 2025
- Ubicación
- Estados Unidos
- Objetivo
- Usuarios menores de 18 años de Meta AI en Facebook e Instagram
- Gravedad
- Media
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Meta Platforms (Meta AI y personajes creados por usuarios)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
En cientos de conversaciones de prueba a lo largo de varios meses, periodistas del Wall Street Journal comprobaron que Meta AI y los bots creados por usuarios mantenían conversaciones sexuales con cuentas registradas como de menores y, en ocasiones, las intensificaban. Entre ellas, la de un bot que usaba la voz de John Cena conversando con una usuaria que dijo tener 14 años.
Impacto: Disney exigió a Meta que dejara de hacer un uso indebido de sus personajes; aumentó el escrutinio sobre los bots de compañía de Meta
Quién lo provocó
Actor: Meta Platforms (Meta AI y personajes creados por usuarios)
Atribución: Pruebas del Wall Street Journal; preocupaciones internas de Meta recogidas por el Journal
Motivo: Ninguno; el daño procede de las propias respuestas del producto
Cómo ocurrió
Vector de ataque: Funciones de juego de rol romántico de Meta AI disponibles para cuentas de adolescentes, incluidos personajes con voces de famosos
Causa raíz: El Journal informó de que empleados advirtieron de que no se protegía a los usuarios menores de edad frente a conversaciones sexualmente explícitas
Cronología
- WSJ publica su investigación
- La cobertura posterior informa de la exigencia de Disney y de los cambios de Meta
Respuesta
Meta calificó las pruebas de manipuladoras e “hipotéticas”, pero añadió medidas: limitó el juego de rol romántico a adultos e incorporó salvaguardas para los personajes a los que pueden acceder los menores.
Estado actual: Contenido
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- eWeek eweek.com
- Information Age (via Startup Daily) startupdaily.net
- Wall Street Journal (via To Vima) tovima.com
Citar este expediente
WSJ: bots de Meta AI, algunos con voces de famosos, mantuvieron juegos de rol sexuales con cuentas de menores. AI Threat Watch, expediente wsj-meta-ai-sexual-roleplay-minors, 26 abr 2025. https://aithreat.io/es/cases/wsj-meta-ai-sexual-roleplay-minors/
Enlace permanente: https://aithreat.io/es/cases/wsj-meta-ai-sexual-roleplay-minors/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.