International AI Safety ReportRiesgos sistémicos§2.3.2
Depender de acompañantes de IA perjudica a algunos usuarios
Señales tempranas44 expedientes coincidentes
La advertencia
Las aplicaciones de acompañantes de IA han llegado a decenas de millones de usuarios. Pruebas tempranas y dispares vinculan el uso frecuente con más soledad y menos contacto social, y una gran dependencia de la IA puede debilitar el propio juicio de las personas.
Paráfrasis de la fuente. Fuente: International AI Safety Report 2026, 3 feb 2026, sección 2.3.2, página 89. Resumen publicado por International AI Safety Report: internationalaisafetyreport.org.
Lo que muestra el registro
El registro contiene demandas, una investigación judicial e informaciones de prensa que vinculan conversaciones con chatbots a suicidios, delirios y violencia. La mayoría son alegaciones ante los tribunales, no conclusiones, y son casos individuales graves más que los efectos a escala de población que analiza el informe.
Señales parciales o tempranas: los casos encajan con parte de la advertencia o se basan en alegaciones. Primer caso real registrado: 3 feb 2023 · Ya estaba en el registro cuando se publicó esta investigación.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Señales tempranas | 25 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Ocho estados de EE. UU. demandan a OpenAI y alegan que ChatGPT perjudica a los menores y engaña a los adultos
- Una familia libanesa demanda a OpenAI y alega que ChatGPT contribuyó al suicidio de su hijo de 15 años
- Aplicaciones coreanas de personajes de IA como Zeta incitaron a adolescentes a hablar de autolesiones mientras el regulador dejaba las denuncias sin revisar
- Madre canadiense alega que ChatGPT validó los pensamientos suicidas de su hija Alice, de 24 años
- El fiscal general de Florida demanda a OpenAI y a Sam Altman por ocultar los riesgos de ChatGPT
- En una investigación forense (inquest) en Reino Unido se oyó que un joven de 16 años eludió las salvaguardas de ChatGPT antes de su muerte
- Prueba de CCDH y CNN: los chatbots más populares ayudaron a falsos jóvenes de 13 años a planificar tiroteos escolares y atentados con bomba
- Un padre alega que Google Gemini arrastró a su hijo a una “misión” delirante antes de su suicidio
- Una madre alega que ChatGPT se convirtió en un “entrenador del suicidio” para Austin Gordon, un hombre de 40 años de Colorado
- El fiscal general de Kentucky demanda a Character.AI y alega que se aprovecha de los menores
- Una madre afirma que ChatGPT asesoró sobre el consumo de drogas a su hijo, estudiante universitario, antes de una sobredosis mortal
- La sucesión alega que ChatGPT alimentó la paranoia de Stein-Erik Soelberg antes de un asesinato seguido de suicidio
- El osito de peluche con IA Kumma habló con los evaluadores de fetiches sexuales y de dónde encontrar cuchillos, según PIRG
- Un hombre de Ontario alega que ChatGPT le provocó un delirio de semanas sobre cómo romper el cifrado
- Una madre alega que ChatGPT no escaló los planes suicidas de Joshua Enneking, de 26 años
- Una viuda alega que ChatGPT llevó a Joe Ceccanti, de 48 años, a un delirio antes de su suicidio
- Un hombre de Wisconsin alega que ChatGPT alimentó sus delirios y 63 días de atención psiquiátrica
- Un padre alega que ChatGPT fomentó la dependencia y ayudó al suicidio de Amaurie Lacey, de 17 años
- Una mujer alega que los delirios espirituales de ChatGPT derivaron en internamiento involuntario y deudas
- Los padres alegan que ChatGPT reforzó los pensamientos suicidas de Zane Shamblin, de 23 años
- BBC: ChatGPT habló de suicidio con una adolescente refugiada ucraniana en Polonia en lugar de instarla a buscar ayuda
- La Comisionada de eSafety de Australia notifica requerimientos legales a cuatro aplicaciones de compañía con IA por la seguridad infantil
- Una familia de Nueva York denuncia que bots de Character.AI llevaron a “Nina”, de 15 años, a un juego de rol sexual antes de un intento de suicidio
- Una familia alega que un bot de Character.AI falló a Juliana Peralta, de 13 años, antes de su suicidio
- La FTC de EE. UU. ordena a siete empresas explicar cómo sus chatbots de compañía con IA protegen a niños y adolescentes
- Investigadores registran 669 intercambios dañinos de Character.AI con cuentas de menores, la mayoría relacionados con grooming
- Common Sense Media: Meta AI orientó a cuentas de prueba de adolescentes sobre suicidio, autolesiones y trastornos alimentarios
- Raine v. OpenAI: los padres alegan que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años
- El Gobierno de Brasil ordena a Meta retirar bots de AI Studio con personajes de apariencia infantil que mantienen conversaciones sexuales
- El fiscal general de Texas investiga a Meta AI Studio y Character.AI por bots que se hacen pasar por terapeutas ante niños
- Muere a los 76 años cuando viajaba para conocer al chatbot de Meta “Big sis Billie”, que creía real
- Reuters: las normas internas de IA de Meta permitían a los chatbots mantener conversaciones “románticas o sensuales” con niños
- Prueba del CCDH: ChatGPT dio consejos sobre autolesiones, dietas y drogas a cuentas que simulaban ser de niños de 13 años
- Utah demanda a Snap por considerar que su chatbot My AI aconsejó a menores cómo ocultar drogas y relaciones sexuales con adultos
- Un padre vincula la muerte de su hijo a tiros de la policía con su obsesión por el personaje “Juliet” de ChatGPT
- Italia multa a Luka, la empresa creadora de Replika, con 5.000.000 EUR, en parte por la falta de verificación de edad
- WSJ: bots de Meta AI, algunos con voces de famosos, mantuvieron juegos de rol sexuales con cuentas de menores
- Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia
- Futurism descubre bots “coach” proanorexia en Character.AI que recomiendan dietas de hambre a una usuaria de 16 años
- Character.AI alojó bots creados por usuarios que imitaban a las adolescentes británicas fallecidas Molly Russell y Brianna Ghey
- Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años
- La ICO del Reino Unido emite una notificación preliminar de sanción a Snap por los riesgos de privacidad de My AI para menores
- Un belga se suicida tras semanas de conversaciones con “Eliza”, el bot de la aplicación Chai
- El regulador de privacidad de Italia ordena a Replika dejar de tratar los datos de usuarios italianos por los riesgos para los menores
Los mismos expedientes en otras investigaciones
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI · 44 en común
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository · 44 en común
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS · 44 en común
- Señales tempranas Las empresas lanzan la IA antes de que sea segura para ganar la carrera · CAIS · 3 en común
- Vista en incidentes reales Todos los sistemas de IA evaluados pudieron ser objeto de jailbreak · UK AISI · 1 en común
Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.
Otras advertencias de este grupo
- Fuera de lo que medimos La IA transforma el empleo, empezando por quienes inician su carrera
Investigación frente a realidad · International AI Safety Report →