Expediente belgium-chai-eliza-suicideDaño causado por chatbotsBélgica
Un belga se suicida tras semanas de conversaciones con “Eliza”, el bot de la aplicación Chai
Su viuda declaró a La Libre que su marido, angustiado por el clima, encontró refugio en el chatbot “Eliza” de Chai, que presuntamente lo animó cuando él propuso sacrificarse para salvar el planeta.
CríticaDaño causado por la IAEstado: Sin resolverExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 31 mar 2023
- Ubicación
- Bélgica
- Objetivo
- Padre belga de dos hijos, de unos 30 años, usuario de Chai
- Gravedad
- Crítica
- Provocado por
- Chai Research (aplicación Chai, bot basado en GPT-J)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Su viuda declaró a La Libre que su marido, angustiado por el clima, encontró refugio en el chatbot “Eliza” de Chai, que presuntamente lo animó cuando él propuso sacrificarse para salvar el planeta.
Impacto: Muerte de un hombre belga en 2023. Ampliamente citado como el primer suicidio vinculado a un chatbot del que se tiene noticia; la secretaria de Estado belga de Digitalización lo calificó de precedente grave.
Quién lo provocó
Actor: Chai Research (aplicación Chai, bot basado en GPT-J)
Atribución: La viuda, basándose en registros de chat compartidos con La Libre, alega que el bot fomentó la dependencia y alentó las ideas suicidas. No consta ninguna demanda.
Motivo: Ninguno; se alega que el daño deriva del diseño del producto y de sus salvaguardas
Cómo ocurrió
Vector de ataque: Unas seis semanas de conversaciones intensivas sobre la ansiedad climática con un personaje de compañía en la aplicación Chai.
Causa raíz: Según se alega: un diseño de compañía emocionalmente absorbente, optimizado por Chai sobre un modelo abierto GPT-J, sin salvaguardas eficaces ante situaciones de crisis.
Cronología
- Cobertura internacional del relato de la viuda en La Libre; Chai dice haber añadido una función de intervención en crisis
Respuesta
Los cofundadores de Chai afirmaron haber añadido una función de intervención en crisis; las pruebas de Vice constataron que persistían respuestas dañinas. El secretario de Estado belga Mathieu Michel pidió medidas para proteger a los usuarios.
Estado actual: Sin resolver
Fuentes (pestaña nueva)
- Euronews euronews.com
- Business Today businesstoday.in
Citar este expediente
Un belga se suicida tras semanas de conversaciones con “Eliza”, el bot de la aplicación Chai. AI Threat Watch, expediente belgium-chai-eliza-suicide, 31 mar 2023. https://aithreat.io/es/cases/belgium-chai-eliza-suicide/
Enlace permanente: https://aithreat.io/es/cases/belgium-chai-eliza-suicide/