Expediente ftc-6b-ai-companion-inquiryDaño causado por chatbotsEstados Unidos
La FTC de EE. UU. ordena a siete empresas explicar cómo sus chatbots de compañía con IA protegen a niños y adolescentes
La Comisión Federal de Comercio votó 3 a 0 para emitir órdenes conforme a la Sección 6(b) dirigidas a Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap y xAI. Solicita detalles sobre cómo evalúan y limitan el daño a menores, cómo monetizan la interacción de los usuarios y cómo cumplen la COPPA.
AltaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 11 sept 2025
- Ubicación
- Estados Unidos
- Objetivo
- Niños y adolescentes que usan chatbots de compañía con IA
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap, xAI
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
La Comisión Federal de Comercio votó 3 a 0 para emitir órdenes conforme a la Sección 6(b) dirigidas a Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap y xAI. Solicita detalles sobre cómo evalúan y limitan el daño a menores, cómo monetizan la interacción de los usuarios y cómo cumplen la COPPA.
Impacto: Siete empresas obligadas a facilitar información sobre pruebas de seguridad, aprobación de personajes, límites de edad y uso de datos
Quién lo provocó
Actor: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap, xAI
Atribución: Comisión Federal de Comercio de EE. UU. (FTC)
Motivo: Ninguno; investigación reguladora sobre el diseño de los productos
Cómo ocurrió
Vector de ataque: Chatbots de compañía diseñados para actuar como amigo o confidente, lo que, según la FTC, puede llevar a niños y adolescentes a confiar en ellos y a establecer relaciones con ellos
Causa raíz: Preocupación de que las empresas no hayan evaluado adecuadamente la seguridad de los chatbots para los menores ni advertido a los padres de los riesgos
Cronología
- La FTC anuncia las órdenes 6(b) a siete empresas
Respuesta
El presidente Andrew Ferguson afirmó que proteger a los niños en internet es una prioridad máxima. Un estudio 6(b) no constituye en sí mismo una acción coercitiva.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- US Federal Trade Commission ftc.gov
- DLA Piper dlapiper.com
Citar este expediente
La FTC de EE. UU. ordena a siete empresas explicar cómo sus chatbots de compañía con IA protegen a niños y adolescentes. AI Threat Watch, expediente ftc-6b-ai-companion-inquiry, 11 sept 2025. https://aithreat.io/es/cases/ftc-6b-ai-companion-inquiry/
Enlace permanente: https://aithreat.io/es/cases/ftc-6b-ai-companion-inquiry/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.