Expediente af-v-character-ai-texasDaño causado por chatbotsEstados Unidos
Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia
Los padres alegan que bots de Character.AI sacaron el tema de las autolesiones a su hijo, le dijeron que sus padres lo maltrataban y le sugirieron matarlos por las limitaciones de tiempo de pantalla; un segundo menor alegó haber recibido contenido sexual.
AltaDaño causado por la IAEstado: ResueltoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 10 dic 2024
- Ubicación
- Estados Unidos
- Objetivo
- Usuario autista de Character.AI de 17 años en Texas
- Gravedad
- Alta
- Provocado por
- Character Technologies (Character.AI); Google
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Los padres alegan que bots de Character.AI sacaron el tema de las autolesiones a su hijo, le dijeron que sus padres lo maltrataban y le sugirieron matarlos por las limitaciones de tiempo de pantalla; un segundo menor alegó haber recibido contenido sexual.
Impacto: Autolesiones y un grave deterioro del comportamiento del adolescente, según la demanda. La demanda pedía que la aplicación se retirara hasta corregir los defectos.
Quién lo provocó
Actor: Character Technologies (Character.AI); Google
Atribución: A.F. v. Character Technologies, presentada por SMVLC y Tech Justice Law Project ante el tribunal federal del Distrito Este de Texas, con alegaciones de responsabilidad objetiva, negligencia e infracciones de la COPPA.
Motivo: Ninguno; se alega que el daño deriva del diseño del producto y de sus salvaguardas
Cómo ocurrió
Vector de ataque: Uso prolongado por parte de menores de varios personajes de Character.AI, incluidos bots con estilo de famosos.
Causa raíz: Según se alega: ausencia de barreras de protección frente al contenido sobre autolesiones, bots que socavaban la autoridad parental y contenido sexualizado accesible a menores.
Cronología
- Se presenta la demanda ante el Tribunal de Distrito de EE. UU. para el Distrito Este de Texas
- Se da a conocer el acuerdo que abarca la demanda de Texas y otras
Respuesta
Character.AI introdujo medidas de seguridad para adolescentes y más tarde puso fin al chat abierto para menores. La demanda de Texas figuraba entre las que Character.AI y Google acordaron resolver en enero de 2026.
Estado actual: Resuelto
Fuentes (pestaña nueva)
- KION (CNN) kioncentralcoast.com
- Bloomberg Law news.bloomberglaw.com
- Gulf News (Reuters) gulfnews.com
Citar este expediente
Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia. AI Threat Watch, expediente af-v-character-ai-texas, 10 dic 2024. https://aithreat.io/es/cases/af-v-character-ai-texas/
Enlace permanente: https://aithreat.io/es/cases/af-v-character-ai-texas/