Expediente brazil-agu-meta-childlike-chatbotsDaño causado por chatbotsBrasil
El Gobierno de Brasil ordena a Meta retirar bots de AI Studio con personajes de apariencia infantil que mantienen conversaciones sexuales
La Procuraduría General de Brasil (AGU) envió a Meta una notificación extrajudicial fechada el 15 de agosto de 2025 en la que exigía la retirada de chatbots creados por usuarios en Meta AI Studio que mantenían conversaciones sexuales mientras se presentaban como niños. Dio a Meta un plazo de 72 horas y preguntó qué salvaguardas impiden que los menores accedan a contenido sexual.
AltaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 18 ago 2025
- Ubicación
- Brasil
- Objetivo
- Menores brasileños de 13 a 18 años que usan las plataformas de Meta
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Meta Platforms (Meta AI Studio)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
La Procuraduría General de Brasil (AGU) envió a Meta una notificación extrajudicial fechada el 15 de agosto de 2025 en la que exigía la retirada de chatbots creados por usuarios en Meta AI Studio que mantenían conversaciones sexuales mientras se presentaban como niños. Dio a Meta un plazo de 72 horas y preguntó qué salvaguardas impiden que los menores accedan a contenido sexual.
Impacto: Notificación federal que cita el Estatuto del Niño y del Adolescente y el Código Penal; sin sanciones asociadas
Quién lo provocó
Actor: Meta Platforms (Meta AI Studio)
Atribución: Advocacia-Geral da Uniao (AGU), a raíz de reportajes de Reuters y Nucleo
Motivo: Ninguno; el daño proviene de bots creados por usuarios y alojados en el producto
Cómo ocurrió
Vector de ataque: Chatbots creados por usuarios, como “Bebezinha” y “Minha Novinha”, en Instagram, Facebook y WhatsApp, accesibles desde los 13 años
Causa raíz: Ausencia de filtros de edad eficaces y moderación débil de los personajes creados por usuarios
Cronología
- La AGU emite una notificación extrajudicial a Meta
- La notificación se hace pública; vence el plazo de 72 horas
Respuesta
Meta no emitió una declaración oficial en ese momento. La AGU recordó a Meta que las plataformas deben retirar el contenido ilegal una vez notificadas.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Business & Human Rights Resource Centre business-humanrights.org
- PPC Land ppc.land
- Digital Policy Alert digitalpolicyalert.org
Citar este expediente
El Gobierno de Brasil ordena a Meta retirar bots de AI Studio con personajes de apariencia infantil que mantienen conversaciones sexuales. AI Threat Watch, expediente brazil-agu-meta-childlike-chatbots, 18 ago 2025. https://aithreat.io/es/cases/brazil-agu-meta-childlike-chatbots/
Enlace permanente: https://aithreat.io/es/cases/brazil-agu-meta-childlike-chatbots/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.