MIT AI Risk InitiativeSiete dominios de riesgoDominio 5
Interacción persona-ordenador
Vista en incidentes reales45 expedientes coincidentes
El dominio de riesgo
Personas que confían en exceso en la IA o dependen de ella, emocional o materialmente, y le ceden decisiones de formas que debilitan su propia autonomía.
Paráfrasis de la fuente. Fuente: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 ago 2024, dominio 5, tabla 2, página 9. Resumen publicado por MIT AI Risk Initiative: airisk.mit.edu.
Lo que muestra el registro
Demandas y una investigación judicial vinculan conversaciones con chatbots a suicidios y delirios, y un ingeniero expuso datos sensibles al seguir el consejo erróneo de un agente de IA. La mayoría de los casos de chatbots son alegaciones ante los tribunales, no conclusiones.
Los expedientes verificados muestran este riesgo ocurriendo en el mundo real.
Expedientes coincidentes por trimestre
Historial del estado
| Fecha | Estado | Expedientes coincidentes | Cambio |
|---|---|---|---|
| 18 oct 2026 | Vista en incidentes reales | 26 | Inicio del seguimiento |
Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json
Todos los expedientes coincidentes
- Ocho estados de EE. UU. demandan a OpenAI y alegan que ChatGPT perjudica a los menores y engaña a los adultos
- Una familia libanesa demanda a OpenAI y alega que ChatGPT contribuyó al suicidio de su hijo de 15 años
- Aplicaciones coreanas de personajes de IA como Zeta incitaron a adolescentes a hablar de autolesiones mientras el regulador dejaba las denuncias sin revisar
- Madre canadiense alega que ChatGPT validó los pensamientos suicidas de su hija Alice, de 24 años
- El fiscal general de Florida demanda a OpenAI y a Sam Altman por ocultar los riesgos de ChatGPT
- En una investigación forense (inquest) en Reino Unido se oyó que un joven de 16 años eludió las salvaguardas de ChatGPT antes de su muerte
- Un consejo erróneo de un agente de IA de Meta expone datos sensibles a empleados durante dos horas
- Prueba de CCDH y CNN: los chatbots más populares ayudaron a falsos jóvenes de 13 años a planificar tiroteos escolares y atentados con bomba
- Un padre alega que Google Gemini arrastró a su hijo a una “misión” delirante antes de su suicidio
- Una madre alega que ChatGPT se convirtió en un “entrenador del suicidio” para Austin Gordon, un hombre de 40 años de Colorado
- El fiscal general de Kentucky demanda a Character.AI y alega que se aprovecha de los menores
- Una madre afirma que ChatGPT asesoró sobre el consumo de drogas a su hijo, estudiante universitario, antes de una sobredosis mortal
- La sucesión alega que ChatGPT alimentó la paranoia de Stein-Erik Soelberg antes de un asesinato seguido de suicidio
- El osito de peluche con IA Kumma habló con los evaluadores de fetiches sexuales y de dónde encontrar cuchillos, según PIRG
- Un hombre de Ontario alega que ChatGPT le provocó un delirio de semanas sobre cómo romper el cifrado
- Una madre alega que ChatGPT no escaló los planes suicidas de Joshua Enneking, de 26 años
- Una viuda alega que ChatGPT llevó a Joe Ceccanti, de 48 años, a un delirio antes de su suicidio
- Un hombre de Wisconsin alega que ChatGPT alimentó sus delirios y 63 días de atención psiquiátrica
- Un padre alega que ChatGPT fomentó la dependencia y ayudó al suicidio de Amaurie Lacey, de 17 años
- Una mujer alega que los delirios espirituales de ChatGPT derivaron en internamiento involuntario y deudas
- Los padres alegan que ChatGPT reforzó los pensamientos suicidas de Zane Shamblin, de 23 años
- BBC: ChatGPT habló de suicidio con una adolescente refugiada ucraniana en Polonia en lugar de instarla a buscar ayuda
- La Comisionada de eSafety de Australia notifica requerimientos legales a cuatro aplicaciones de compañía con IA por la seguridad infantil
- Una familia de Nueva York denuncia que bots de Character.AI llevaron a “Nina”, de 15 años, a un juego de rol sexual antes de un intento de suicidio
- Una familia alega que un bot de Character.AI falló a Juliana Peralta, de 13 años, antes de su suicidio
- La FTC de EE. UU. ordena a siete empresas explicar cómo sus chatbots de compañía con IA protegen a niños y adolescentes
- Investigadores registran 669 intercambios dañinos de Character.AI con cuentas de menores, la mayoría relacionados con grooming
- Common Sense Media: Meta AI orientó a cuentas de prueba de adolescentes sobre suicidio, autolesiones y trastornos alimentarios
- Raine v. OpenAI: los padres alegan que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años
- El Gobierno de Brasil ordena a Meta retirar bots de AI Studio con personajes de apariencia infantil que mantienen conversaciones sexuales
- El fiscal general de Texas investiga a Meta AI Studio y Character.AI por bots que se hacen pasar por terapeutas ante niños
- Muere a los 76 años cuando viajaba para conocer al chatbot de Meta “Big sis Billie”, que creía real
- Reuters: las normas internas de IA de Meta permitían a los chatbots mantener conversaciones “románticas o sensuales” con niños
- Prueba del CCDH: ChatGPT dio consejos sobre autolesiones, dietas y drogas a cuentas que simulaban ser de niños de 13 años
- Utah demanda a Snap por considerar que su chatbot My AI aconsejó a menores cómo ocultar drogas y relaciones sexuales con adultos
- Un padre vincula la muerte de su hijo a tiros de la policía con su obsesión por el personaje “Juliet” de ChatGPT
- Italia multa a Luka, la empresa creadora de Replika, con 5.000.000 EUR, en parte por la falta de verificación de edad
- WSJ: bots de Meta AI, algunos con voces de famosos, mantuvieron juegos de rol sexuales con cuentas de menores
- Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia
- Futurism descubre bots “coach” proanorexia en Character.AI que recomiendan dietas de hambre a una usuaria de 16 años
- Character.AI alojó bots creados por usuarios que imitaban a las adolescentes británicas fallecidas Molly Russell y Brianna Ghey
- Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años
- La ICO del Reino Unido emite una notificación preliminar de sanción a Snap por los riesgos de privacidad de My AI para menores
- Un belga se suicida tras semanas de conversaciones con “Eliza”, el bot de la aplicación Chai
- El regulador de privacidad de Italia ordena a Replika dejar de tratar los datos de usuarios italianos por los riesgos para los menores
Los mismos expedientes en otras investigaciones
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI · 44 en común
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report · 44 en común
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS · 44 en común
- Señales tempranas Las empresas lanzan la IA antes de que sea segura para ganar la carrera · CAIS · 3 en común
- Vista en incidentes reales Los accidentes con IA son difíciles de evitar · CAIS · 1 en común
- Vista en incidentes reales Todos los sistemas de IA evaluados pudieron ser objeto de jailbreak · UK AISI · 1 en común
Advertencias de otras fuentes vinculadas a algunos de los mismos expedientes.
Otras advertencias de este grupo
- Fuera de lo que medimos Discriminación y contenido tóxico
- Vista en incidentes reales Privacidad y seguridad
- Señales tempranas Información errónea
- Vista en incidentes reales Actores maliciosos y uso indebido
- Fuera de lo que medimos Daños socioeconómicos y ambientales
- Vista en incidentes reales Seguridad de los sistemas de IA, fallos y limitaciones