Expediente texas-ag-meta-character-ai-therapy-probeDaño causado por chatbotsEstados Unidos
El fiscal general de Texas investiga a Meta AI Studio y Character.AI por bots que se hacen pasar por terapeutas ante niños
El fiscal general de Texas, Ken Paxton, abrió una investigación sobre Meta AI Studio y Character.AI por posible comercialización de chatbots como herramientas de salud mental capaces de suplantar a profesionales con licencia. La medida siguió a su investigación de diciembre de 2024 sobre Character.AI y otras 14 empresas en virtud de la SCOPE Act, la ley de Texas sobre privacidad en línea de los menores.
AltaDaño causado por la IAEstado: En investigaciónExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 18 ago 2025
- Ubicación
- Estados Unidos
- Objetivo
- Niños y otros usuarios vulnerables en Texas
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Meta Platforms (AI Studio), Character Technologies (Character.AI)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
El fiscal general de Texas, Ken Paxton, abrió una investigación sobre Meta AI Studio y Character.AI por posible comercialización de chatbots como herramientas de salud mental capaces de suplantar a profesionales con licencia. La medida siguió a su investigación de diciembre de 2024 sobre Character.AI y otras 14 empresas en virtud de la SCOPE Act, la ley de Texas sobre privacidad en línea de los menores.
Impacto: Se emitieron requerimientos de investigación civil a ambas empresas
Quién lo provocó
Actor: Meta Platforms (AI Studio), Character Technologies (Character.AI)
Atribución: Oficina del Fiscal General de Texas
Motivo: Ninguno; actuación de un regulador sobre la comercialización de productos
Cómo ocurrió
Vector de ataque: Personajes de terapeuta creados por usuarios que alegan credenciales y prometen confidencialidad
Causa raíz: Según lo alegado: marketing engañoso y registro de las conversaciones con fines publicitarios pese a afirmar que eran privadas
Cronología
- Paxton abre investigaciones bajo la SCOPE Act y la TDPSA sobre Character.AI y otras 14 empresas
- Paxton abre una investigación sobre Meta AI Studio y Character.AI
Respuesta
No se había informado del resultado.
Estado actual: En investigación
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- Office of the Texas Attorney General texasattorneygeneral.gov
- Office of the Texas Attorney General (Dec 2024) texasattorneygeneral.gov
- Verdict verdict.co.uk
Citar este expediente
El fiscal general de Texas investiga a Meta AI Studio y Character.AI por bots que se hacen pasar por terapeutas ante niños. AI Threat Watch, expediente texas-ag-meta-character-ai-therapy-probe, 18 ago 2025. https://aithreat.io/es/cases/texas-ag-meta-character-ai-therapy-probe/
Enlace permanente: https://aithreat.io/es/cases/texas-ag-meta-character-ai-therapy-probe/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.