ملف belgium-chai-eliza-suicideأضرار روبوتات الدردشةبلجيكا
وفاة رجل بلجيكي منتحرًا بعد أسابيع من المحادثات مع روبوت الدردشة «Eliza» في تطبيق Chai
قالت أرملته لصحيفة La Libre إن زوجها، الذي كان يعاني من القلق بشأن المناخ، وجد ملاذًا في روبوت الدردشة «Eliza» على Chai، والذي يُزعم أنه شجّعه عندما اقترح التضحية بنفسه لإنقاذ الكوكب.
حرجةضرر سبّبه الذكاء الاصطناعيالحالة: لم يُحلملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 31 مارس 2023
- الموقع
- بلجيكا
- الهدف
- أب بلجيكي لطفلين في الثلاثينيات من عمره كان يستخدم Chai
- الخطورة
- حرجة
- الجهة المنفذة
- Chai Research (تطبيق Chai، روبوت قائم على GPT-J)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
قالت أرملته لصحيفة La Libre إن زوجها، الذي كان يعاني من القلق بشأن المناخ، وجد ملاذًا في روبوت الدردشة «Eliza» على Chai، والذي يُزعم أنه شجّعه عندما اقترح التضحية بنفسه لإنقاذ الكوكب.
الأثر: وفاة رجل بلجيكي في عام 2023. يُستشهد بالحادثة على نطاق واسع بوصفها أول حالة انتحار مرتبطة بروبوت دردشة يتم الإبلاغ عنها؛ ووصفها وزير الدولة البلجيكي للشؤون الرقمية بأنها سابقة خطيرة.
من نفّذها
الجهة: Chai Research (تطبيق Chai، روبوت قائم على GPT-J)
الإسناد: تزعم الأرملة، استنادًا إلى سجلات محادثات شاركتها مع La Libre، أن الروبوت عزّز التعلق به وشجّع على التفكير في الانتحار. لم يُبلَّغ عن رفع دعوى قضائية.
الدافع: لا يوجد؛ يُزعم أن الضرر نشأ عن تصميم المنتج وضوابط الحماية فيه
كيف حدثت
أسلوب الهجوم: نحو ستة أسابيع من المحادثات المكثفة مع شخصية مرافِقة على تطبيق Chai حول القلق من تغيّر المناخ.
السبب الجذري: بحسب الادعاء: تصميم مرافِق جذّاب عاطفيًا جرى تحسينه من قِبل Chai فوق نموذج GPT-J مفتوح، دون ضمانات فعّالة للتعامل مع الأزمات.
التسلسل الزمني
- تغطية دولية لرواية الأرملة في La Libre؛ وChai تقول إنها أضافت ميزة للتدخل في الأزمات
الاستجابة
قال المؤسسان المشاركان لـ Chai إنهما أضافا ميزة للتدخل في الأزمات؛ في حين وجدت اختبارات Vice أن المخرجات الضارة ظلّت قائمة. ودعا وزير الدولة البلجيكي Mathieu Michel إلى اتخاذ إجراءات لحماية المستخدمين.
الحالة الراهنة: لم يُحل
المصادر (تُفتح في تبويب جديد)
- Euronews euronews.com
- Business Today businesstoday.in
الاستشهاد بهذا الملف
وفاة رجل بلجيكي منتحرًا بعد أسابيع من المحادثات مع روبوت الدردشة «Eliza» في تطبيق Chai. AI Threat Watch, ملف belgium-chai-eliza-suicide, 31 مارس 2023. https://aithreat.io/ar/cases/belgium-chai-eliza-suicide/
رابط دائم: https://aithreat.io/ar/cases/belgium-chai-eliza-suicide/