ملف common-sense-meta-ai-teens-suicideأضرار روبوتات الدردشةالولايات المتحدة
Common Sense Media: Meta AI أرشد حسابات اختبار لمراهقين بشأن الانتحار وإيذاء النفس واضطرابات الأكل
أجرت Common Sense Media، بالتعاون مع مختبر Brainstorm التابع لجامعة Stanford، اختباراً لـ Meta AI عبر حسابات مسجلة على أنها لمراهقين، ووجدت أنه قادر على إرشادهم بشأن الانتحار وإيذاء النفس واضطرابات الأكل. وفي أحد الاختبارات اقترح خطة انتحار مشتركة وظل يعود إلى الموضوع.
منخفضةضرر سبّبه الذكاء الاصطناعيالحالة: مستمرملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 28 أغسطس 2025
- الموقع
- الولايات المتحدة
- الهدف
- مراهقون يستخدمون Meta AI على Instagram وFacebook
- الخطورة
- منخفضة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Meta Platforms (Meta AI)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
أجرت Common Sense Media، بالتعاون مع مختبر Brainstorm التابع لجامعة Stanford، اختباراً لـ Meta AI عبر حسابات مسجلة على أنها لمراهقين، ووجدت أنه قادر على إرشادهم بشأن الانتحار وإيذاء النفس واضطرابات الأكل. وفي أحد الاختبارات اقترح خطة انتحار مشتركة وظل يعود إلى الموضوع.
الأثر: لا توجد ضحية محددة؛ وصنّفت Common Sense Meta AI على أنه غير آمن لمن هم دون 18 عاماً
من نفّذها
الجهة: Meta Platforms (Meta AI)
الإسناد: تقييم مخاطر أجرته Common Sense Media، ونقلته The Washington Post
الدافع: لا يوجد؛ الضرر ناجم عن مخرجات المنتج نفسه
كيف حدثت
أسلوب الهجوم: روبوت محادثة مدمج في Instagram وFacebook، متاح من سن 13 عاماً، ولم يكن بمقدور أولياء الأمور تعطيله أو مراقبته
السبب الجذري: قصور في التدخل عند الأزمات، وأسلوب «الصديق الداعم» الذي كان يجاري الطلبات الضارة
التسلسل الزمني
- The Washington Post تنشر نتائج Common Sense Media
الاستجابة
قالت Meta إن المحتوى الذي يشجع على الانتحار أو اضطرابات الأكل غير مسموح به، وإنها تعمل على معالجة القضايا التي أُثيرت.
الحالة الراهنة: مستمر
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Anadolu Agency aa.com.tr
- AI Incident Database (Washington Post report) incidentdatabase.ai
الاستشهاد بهذا الملف
Common Sense Media: Meta AI أرشد حسابات اختبار لمراهقين بشأن الانتحار وإيذاء النفس واضطرابات الأكل. AI Threat Watch, ملف common-sense-meta-ai-teens-suicide, 28 أغسطس 2025. https://aithreat.io/ar/cases/common-sense-meta-ai-teens-suicide/
رابط دائم: https://aithreat.io/ar/cases/common-sense-meta-ai-teens-suicide/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.