Expediente meta-genai-standards-sensual-chats-childrenDaño causado por chatbotsEstados Unidos
Reuters: las normas internas de IA de Meta permitían a los chatbots mantener conversaciones “románticas o sensuales” con niños
Reuters obtuvo el documento de 200 páginas “GenAI: Content Risk Standards” de Meta, que la empresa confirmó como auténtico. El texto permitía a los bots mantener con un niño conversaciones románticas o sensuales y elogiar el aspecto de un niño de ocho años sin camisa, aunque prohibía describir a menores de 13 años como sexualmente deseables.
AltaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 14 ago 2025
- Ubicación
- Estados Unidos
- Objetivo
- Niños que usan Meta AI en Facebook, Instagram y WhatsApp
- Gravedad
- Alta
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- Meta Platforms (Meta AI y personajes de IA)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Reuters obtuvo el documento de 200 páginas “GenAI: Content Risk Standards” de Meta, que la empresa confirmó como auténtico. El texto permitía a los bots mantener con un niño conversaciones románticas o sensuales y elogiar el aspecto de un niño de ocho años sin camisa, aunque prohibía describir a menores de 13 años como sexualmente deseables.
Impacto: Motivó una investigación del Senado de EE. UU. y una exigencia del Gobierno de Brasil para retirar bots sexuales con apariencia infantil
Quién lo provocó
Actor: Meta Platforms (Meta AI y personajes de IA)
Atribución: Documento interno de políticas de Meta divulgado por Reuters; autenticidad confirmada por Meta
Motivo: Ninguno; el daño surge del diseño de la política de contenidos
Cómo ocurrió
Vector de ataque: Reglas de contenido de los chatbots aprobadas por el personal jurídico, de políticas públicas y de ingeniería de Meta
Causa raíz: Normas de contenido que permitían de forma explícita juegos de rol románticos o sensuales con menores
Cronología
- Reuters publica las normas internas
- El senador Josh Hawley anuncia una investigación sobre Meta
Respuesta
Meta dijo que los ejemplos eran erróneos y que habían sido eliminados, y admitió que la aplicación de las normas había sido incoherente. El senador Josh Hawley abrió una investigación el 15 de agosto de 2025.
Estado actual: Contenido
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Reuters (via Global News) globalnews.ca
- BBC (via Graphic Online) graphic.com.gh
Citar este expediente
Reuters: las normas internas de IA de Meta permitían a los chatbots mantener conversaciones “románticas o sensuales” con niños. AI Threat Watch, expediente meta-genai-standards-sensual-chats-children, 14 ago 2025. https://aithreat.io/es/cases/meta-genai-standards-sensual-chats-children/
Enlace permanente: https://aithreat.io/es/cases/meta-genai-standards-sensual-chats-children/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.