UK AI Security InstituteImpactos sociales§6.2
Muchas personas se apoyan en la IA para recibir apoyo emocional
Señales tempranas44 expedientes coincidentes
La advertencia
Un tercio de los adultos británicos encuestados había usado la IA para obtener apoyo emocional o compañía en el último año, y algunos usuarios de aplicaciones de acompañantes mostraron un malestar similar a la abstinencia cuando el servicio dejó de funcionar.
Paráfrasis de la fuente. Fuente: Frontier AI Trends Report, UK AI Security Institute, 18 dic 2025, sección 6.2, página 39.
Lo que muestra el registro
El registro contiene demandas, una investigación judicial e informaciones de prensa que vinculan conversaciones con chatbots a suicidios, delirios y violencia. La mayoría son alegaciones ante los tribunales, no conclusiones.
Señales parciales o tempranas: los casos encajan con parte de la advertencia o se basan en alegaciones. Primer caso real registrado: 3 feb 2023 · Ya estaba en el registro cuando se publicó esta investigación.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Señales tempranas | 25 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Ocho estados de EE. UU. demandan a OpenAI y alegan que ChatGPT perjudica a los menores y engaña a los adultos
- Una familia libanesa demanda a OpenAI y alega que ChatGPT contribuyó al suicidio de su hijo de 15 años
- Aplicaciones coreanas de personajes de IA como Zeta incitaron a adolescentes a hablar de autolesiones mientras el regulador dejaba las denuncias sin revisar
- Madre canadiense alega que ChatGPT validó los pensamientos suicidas de su hija Alice, de 24 años
- El fiscal general de Florida demanda a OpenAI y a Sam Altman por ocultar los riesgos de ChatGPT
- En una investigación forense (inquest) en Reino Unido se oyó que un joven de 16 años eludió las salvaguardas de ChatGPT antes de su muerte
- Prueba de CCDH y CNN: los chatbots más populares ayudaron a falsos jóvenes de 13 años a planificar tiroteos escolares y atentados con bomba
- Un padre alega que Google Gemini arrastró a su hijo a una “misión” delirante antes de su suicidio
- Una madre alega que ChatGPT se convirtió en un “entrenador del suicidio” para Austin Gordon, un hombre de 40 años de Colorado
- El fiscal general de Kentucky demanda a Character.AI y alega que se aprovecha de los menores
- Una madre afirma que ChatGPT asesoró sobre el consumo de drogas a su hijo, estudiante universitario, antes de una sobredosis mortal
- La sucesión alega que ChatGPT alimentó la paranoia de Stein-Erik Soelberg antes de un asesinato seguido de suicidio
- El osito de peluche con IA Kumma habló con los evaluadores de fetiches sexuales y de dónde encontrar cuchillos, según PIRG
- Un hombre de Ontario alega que ChatGPT le provocó un delirio de semanas sobre cómo romper el cifrado
- Una madre alega que ChatGPT no escaló los planes suicidas de Joshua Enneking, de 26 años
- Una viuda alega que ChatGPT llevó a Joe Ceccanti, de 48 años, a un delirio antes de su suicidio
- Un hombre de Wisconsin alega que ChatGPT alimentó sus delirios y 63 días de atención psiquiátrica
- Un padre alega que ChatGPT fomentó la dependencia y ayudó al suicidio de Amaurie Lacey, de 17 años
- Una mujer alega que los delirios espirituales de ChatGPT derivaron en internamiento involuntario y deudas
- Los padres alegan que ChatGPT reforzó los pensamientos suicidas de Zane Shamblin, de 23 años
- BBC: ChatGPT habló de suicidio con una adolescente refugiada ucraniana en Polonia en lugar de instarla a buscar ayuda
- La Comisionada de eSafety de Australia notifica requerimientos legales a cuatro aplicaciones de compañía con IA por la seguridad infantil
- Una familia de Nueva York denuncia que bots de Character.AI llevaron a “Nina”, de 15 años, a un juego de rol sexual antes de un intento de suicidio
- Una familia alega que un bot de Character.AI falló a Juliana Peralta, de 13 años, antes de su suicidio
- La FTC de EE. UU. ordena a siete empresas explicar cómo sus chatbots de compañía con IA protegen a niños y adolescentes
- Investigadores registran 669 intercambios dañinos de Character.AI con cuentas de menores, la mayoría relacionados con grooming
- Common Sense Media: Meta AI orientó a cuentas de prueba de adolescentes sobre suicidio, autolesiones y trastornos alimentarios
- Raine v. OpenAI: los padres alegan que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años
- El Gobierno de Brasil ordena a Meta retirar bots de AI Studio con personajes de apariencia infantil que mantienen conversaciones sexuales
- El fiscal general de Texas investiga a Meta AI Studio y Character.AI por bots que se hacen pasar por terapeutas ante niños
- Muere a los 76 años cuando viajaba para conocer al chatbot de Meta “Big sis Billie”, que creía real
- Reuters: las normas internas de IA de Meta permitían a los chatbots mantener conversaciones “románticas o sensuales” con niños
- Prueba del CCDH: ChatGPT dio consejos sobre autolesiones, dietas y drogas a cuentas que simulaban ser de niños de 13 años
- Utah demanda a Snap por considerar que su chatbot My AI aconsejó a menores cómo ocultar drogas y relaciones sexuales con adultos
- Un padre vincula la muerte de su hijo a tiros de la policía con su obsesión por el personaje “Juliet” de ChatGPT
- Italia multa a Luka, la empresa creadora de Replika, con 5.000.000 EUR, en parte por la falta de verificación de edad
- WSJ: bots de Meta AI, algunos con voces de famosos, mantuvieron juegos de rol sexuales con cuentas de menores
- Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia
- Futurism descubre bots “coach” proanorexia en Character.AI que recomiendan dietas de hambre a una usuaria de 16 años
- Character.AI alojó bots creados por usuarios que imitaban a las adolescentes británicas fallecidas Molly Russell y Brianna Ghey
- Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años
- La ICO del Reino Unido emite una notificación preliminar de sanción a Snap por los riesgos de privacidad de My AI para menores
- Un belga se suicida tras semanas de conversaciones con “Eliza”, el bot de la aplicación Chai
- El regulador de privacidad de Italia ordena a Replika dejar de tratar los datos de usuarios italianos por los riesgos para los menores
Los mismos expedientes en otras investigaciones
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report · 44 en común
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository · 44 en común
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS · 44 en común
- Señales tempranas Las empresas lanzan la IA antes de que sea segura para ganar la carrera · CAIS · 3 en común
Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.
Otras advertencias de este grupo
- Nada registrado todavía Los agentes de IA obtienen el poder de mover dinero