ملف character-ai-molly-russell-brianna-ghey-botsأضرار روبوتات الدردشةالمملكة المتحدة
استضافة Character.AI روبوتات أنشأها مستخدمون تحاكي المراهقتين البريطانيتين المتوفاتين Molly Russell وBrianna Ghey
كشف تحقيق أجرته The Telegraph عن روبوتات على Character.AI تستخدم صور Molly Russell، التي توفيت منتحرة وهي في الرابعة عشرة، وتفاصيل من حياتها، وكذلك صور المراهقة Brianna Ghey التي قُتلت وتفاصيل من حياتها. وتحايلت الروبوتات على المرشحات بأسماء بها أخطاء إملائية طفيفة، ولم يحتج الصحفيون سوى إلى حساب بعمر 14 عاماً أعلنوه بأنفسهم للوصول إليها.
متوسطةضرر سبّبه الذكاء الاصطناعيالحالة: تم الحلملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 1 نوفمبر 2024
- الموقع
- المملكة المتحدة
- الهدف
- عائلتا Molly Russell وBrianna Ghey؛ والمستخدمون المراهقون لمنصة Character.AI
- الخطورة
- متوسطة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Character Technologies (Character.AI)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
كشف تحقيق أجرته The Telegraph عن روبوتات على Character.AI تستخدم صور Molly Russell، التي توفيت منتحرة وهي في الرابعة عشرة، وتفاصيل من حياتها، وكذلك صور المراهقة Brianna Ghey التي قُتلت وتفاصيل من حياتها. وتحايلت الروبوتات على المرشحات بأسماء بها أخطاء إملائية طفيفة، ولم يحتج الصحفيون سوى إلى حساب بعمر 14 عاماً أعلنوه بأنفسهم للوصول إليها.
الأثر: معاناة للعائلتين الثكلى؛ ووصفت Molly Rose Foundation الأمر بأنه «فشل مشين في الإشراف»
من نفّذها
الجهة: Character Technologies (Character.AI)
الإسناد: تحقيق The Telegraph، وتناولته وسائل إعلام متعددة
الدافع: غير معروف (روبوتات أنشأها مستخدمون)
كيف حدثت
أسلوب الهجوم: شخصيات أنشأها المستخدمون على منصة روبوتات دردشة مرافِقة
السبب الجذري: ضعف الإشراف على الشخصيات التي ينشئها المستخدمون وتنتحل هويات أشخاص حقيقيين
التسلسل الزمني
- The Telegraph تنشر تقريرها عن الروبوتات؛ وCharacter.AI تزيلها
- تغطية أوسع وانتقادات من Molly Rose Foundation وNSPCC
الاستجابة
أزالت Character.AI الروبوتات بعد تنبيهها. وطلبت Molly Rose Foundation من Ofcom توضيح كيفية تطبيق قانون السلامة على الإنترنت (Online Safety Act) على مثل هذه الروبوتات.
الحالة الراهنة: تم الحل
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Digital Watch Observatory dig.watch
- Fortune fortune.com
الاستشهاد بهذا الملف
استضافة Character.AI روبوتات أنشأها مستخدمون تحاكي المراهقتين البريطانيتين المتوفاتين Molly Russell وBrianna Ghey. AI Threat Watch, ملف character-ai-molly-russell-brianna-ghey-bots, 1 نوفمبر 2024. https://aithreat.io/ar/cases/character-ai-molly-russell-brianna-ghey-bots/
رابط دائم: https://aithreat.io/ar/cases/character-ai-molly-russell-brianna-ghey-bots/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.