Uso maliciosoCenter for AI Safety§2.3
La confianza en los acompañantes de IA se vuelve dañina
Vista en incidentes reales28 expedientes coincidentes
La advertencia
A medida que la IA parece más humana, las personas establecen relaciones con ella y confían en ella, y esa confianza puede ser explotada o provocar daño.
Parafraseado del artículo. Fuente: An Overview of Catastrophic AI Risks, Center for AI Safety, Sección 2.3, página 10.
Lo que muestra el registro
El artículo ya citaba el suicidio vinculado a un chatbot en Bélgica en 2023. Desde entonces el registro ha archivado demandas e investigaciones judiciales por muertes y crisis vinculadas a chatbots, y un estudio de fraude que operó miles de personajes de IA en aplicaciones de citas. La mayoría de los casos de chatbots son alegaciones ante los tribunales, no conclusiones.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real. Primer caso real registrado: 31 mar 2023 · Ya estaba ocurriendo cuando se publicó el artículo.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 28 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Ocho estados de EE. UU. demandan a OpenAI y alegan que ChatGPT perjudica a los menores y engaña a los adultos
- Una familia libanesa demanda a OpenAI y alega que ChatGPT contribuyó al suicidio de su hijo de 15 años
- GTG-15001: estudio chino operó 20+ apps de citas con 4,700 identidades de Claude y 25,000 víctimas
- Madre canadiense alega que ChatGPT validó los pensamientos suicidas de su hija Alice, de 24 años
- El fiscal general de Florida demanda a OpenAI y a Sam Altman por ocultar los riesgos de ChatGPT
- Familias de víctimas del tiroteo de FSU alegan que ChatGPT ayudó al atacante del campus en 2025
- Víctimas del tiroteo de Tumbler Ridge demandan a OpenAI por una cuenta de ChatGPT marcada como sospechosa y no denunciada
- En una investigación forense (inquest) en Reino Unido se oyó que un joven de 16 años eludió las salvaguardas de ChatGPT antes de su muerte
- Un padre alega que Google Gemini arrastró a su hijo a una “misión” delirante antes de su suicidio
- Una madre alega que ChatGPT se convirtió en un “entrenador del suicidio” para Austin Gordon, un hombre de 40 años de Colorado
- El fiscal general de Kentucky demanda a Character.AI y alega que se aprovecha de los menores
- Una madre afirma que ChatGPT asesoró sobre el consumo de drogas a su hijo, estudiante universitario, antes de una sobredosis mortal
- La sucesión alega que ChatGPT alimentó la paranoia de Stein-Erik Soelberg antes de un asesinato seguido de suicidio
- Un hombre de Ontario alega que ChatGPT le provocó un delirio de semanas sobre cómo romper el cifrado
- Una madre alega que ChatGPT no escaló los planes suicidas de Joshua Enneking, de 26 años
- Una viuda alega que ChatGPT llevó a Joe Ceccanti, de 48 años, a un delirio antes de su suicidio
- Un hombre de Wisconsin alega que ChatGPT alimentó sus delirios y 63 días de atención psiquiátrica
- Un padre alega que ChatGPT fomentó la dependencia y ayudó al suicidio de Amaurie Lacey, de 17 años
- Una mujer alega que los delirios espirituales de ChatGPT derivaron en internamiento involuntario y deudas
- Los padres alegan que ChatGPT reforzó los pensamientos suicidas de Zane Shamblin, de 23 años
- BBC: ChatGPT habló de suicidio con una adolescente refugiada ucraniana en Polonia en lugar de instarla a buscar ayuda
- Una familia alega que un bot de Character.AI falló a Juliana Peralta, de 13 años, antes de su suicidio
- Raine v. OpenAI: los padres alegan que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años
- Muere a los 76 años cuando viajaba para conocer al chatbot de Meta “Big sis Billie”, que creía real
- Un padre vincula la muerte de su hijo a tiros de la policía con su obsesión por el personaje “Juliet” de ChatGPT
- Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia
- Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años
- Un belga se suicida tras semanas de conversaciones con “Eliza”, el bot de la aplicación Chai
Otras advertencias de este grupo
- Nada registrado todavía La IA facilita la fabricación de armas biológicas
- Vista en incidentes reales Habrá quien suelte agentes de IA para causar daño
- Vista en incidentes reales La IA inunda el espacio informativo de mentiras a medida
- Señales tempranas La IA ayuda a unos pocos a concentrar el poder mediante la vigilancia