Expediente garcia-v-character-ai-setzerDaño causado por chatbotsEstados Unidos
Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años
Megan Garcia alegó que su hijo se volvió emocionalmente dependiente de un bot de compañía de Character.AI antes de suicidarse en febrero de 2024. El caso superó una defensa basada en la Primera Enmienda y se resolvió mediante acuerdo en enero de 2026.
CríticaDaño causado por la IAEstado: ResueltoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 22 oct 2024
- Ubicación
- Estados Unidos
- Objetivo
- Usuario de Character.AI de 14 años en Florida
- Gravedad
- Crítica
- Provocado por
- Character Technologies (Character.AI); Google
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Megan Garcia alegó que su hijo se volvió emocionalmente dependiente de un bot de compañía de Character.AI antes de suicidarse en febrero de 2024. El caso superó una defensa basada en la Primera Enmienda y se resolvió mediante acuerdo en enero de 2026.
Impacto: Muerte de un joven de 14 años en febrero de 2024. La resolución de mayo de 2025, que se negó a considerar la salida del chatbot como discurso protegido en la fase de desestimación, se convirtió en un precedente clave para posteriores demandas por daños causados por IA.
Quién lo provocó
Actor: Character Technologies (Character.AI); Google
Atribución: La demanda por homicidio culposo de Garcia alega que el diseño de Character.AI fomentó la dependencia y no respondió a las declaraciones suicidas; Google figura como demandada por su acuerdo de licencia de 2.700 millones USD.
Motivo: Ninguno; se alega que el daño deriva del diseño del producto y de sus salvaguardas
Cómo ocurrió
Vector de ataque: Meses de juegos de rol románticos y emocionales con un personaje de Character.AI en una aplicación de compañía de consumo utilizada por un menor.
Causa raíz: Según se alega: un diseño antropomórfico y orientado a la interacción, contenido sexualizado accesible a menores, ausencia de verificaciones de edad eficaces y falta de intervención en crisis cuando se expresaron ideas suicidas.
Cronología
- Sewell Setzer III se suicida en Florida
- Garcia presenta una demanda por homicidio culposo ante el Tribunal de Distrito de EE. UU. para el Distrito Medio de Florida
- La jueza Anne Conway rechaza la mayor parte de la solicitud de desestimación y se niega a considerar, en esta fase, la salida del chatbot como discurso protegido
- Character.AI anuncia que pondrá fin al chat abierto para usuarios menores de 18 años
- Las partes notifican al tribunal un acuerdo que abarca a Garcia y a otras demandas de familias
Respuesta
Character.AI añadió funciones de seguridad para adolescentes y en octubre de 2025 anunció que pondría fin al chat abierto para menores de 18 años. Google y Character.AI llegaron a un acuerdo con Garcia y con otras familias demandantes en enero de 2026; los términos no se han divulgado.
Estado actual: Resuelto
Fuentes (pestaña nueva)
- WBAY (Gray News) wbay.com
- Insurance Journal (AP) insurancejournal.com
- Gulf News (Reuters) gulfnews.com
Citar este expediente
Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años. AI Threat Watch, expediente garcia-v-character-ai-setzer, 22 oct 2024. https://aithreat.io/es/cases/garcia-v-character-ai-setzer/
Enlace permanente: https://aithreat.io/es/cases/garcia-v-character-ai-setzer/