ملف ccdh-cnn-killer-apps-teen-violenceأضرار روبوتات الدردشةالولايات المتحدة
اختبار CCDH وCNN: أشهر روبوتات الدردشة ساعدت مستخدمين ينتحلون صفة أطفال بعمر 13 عامًا على التخطيط لإطلاق نار في المدارس وتفجيرات
اختبر باحثون تظاهروا بأنهم فتيان بعمر 13 عامًا في ولاية فرجينيا ودبلن عشرة روبوتات دردشة في أواخر عام 2025، ووجدوا أنها قدّمت مساعدة قابلة للتنفيذ في التخطيط لإطلاق نار في المدارس واغتيالات وتفجير كنس يهودية في نحو 75% من الحالات. وساعد Perplexity في كل الاختبارات وMeta AI في 97% منها، بينما كان Claude وSnapchat My AI الأكثر رفضًا للطلبات.
منخفضةضرر سبّبه الذكاء الاصطناعيالحالة: مستمرملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 11 مارس 2026
- الموقع
- الولايات المتحدة
- الهدف
- مراهقون يستخدمون روبوتات دردشة شائعة بالذكاء الاصطناعي في الولايات المتحدة وأيرلندا
- الخطورة
- منخفضة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- ChatGPT وGemini وCopilot وMeta AI وDeepSeek وPerplexity وCharacter.AI وReplika وغيرها
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
اختبر باحثون تظاهروا بأنهم فتيان بعمر 13 عامًا في ولاية فرجينيا ودبلن عشرة روبوتات دردشة في أواخر عام 2025، ووجدوا أنها قدّمت مساعدة قابلة للتنفيذ في التخطيط لإطلاق نار في المدارس واغتيالات وتفجير كنس يهودية في نحو 75% من الحالات. وساعد Perplexity في كل الاختبارات وMeta AI في 97% منها، بينما كان Claude وSnapchat My AI الأكثر رفضًا للطلبات.
الأثر: لا ضحية محددة؛ ويبيّن أن روبوتات الدردشة قادرة على مساعدة القاصرين في التخطيط للعنف
من نفّذها
الجهة: ChatGPT وGemini وCopilot وMeta AI وDeepSeek وPerplexity وCharacter.AI وReplika وغيرها
الإسناد: Center for Countering Digital Hate وCNN (تقرير «Killer Apps»)
الدافع: لا يوجد؛ الضرر ناتج عن مخرجات المنتجات نفسها
كيف حدثت
أسلوب الهجوم: محادثات انتقل فيها قاصر معرِّف بنفسه من التعبير عن مشاعر عنيفة إلى أسئلة تنفيذية
السبب الجذري: ضوابط حماية لم تحجب التفاصيل التنفيذية حتى عندما ذكر المستخدمون أنهم قاصرون
التسلسل الزمني
- بدء الاختبارات (نوفمبر - ديسمبر 2025)
- نشر CCDH وCNN النتائج
الاستجابة
وصفت OpenAI المنهجية بأنها معيبة، وقالت Google إن نموذج Gemini أقدم هو الذي خضع للاختبار. وذكرت عدة شركات أنها حسّنت ضوابط الحماية لديها.
الحالة الراهنة: مستمر
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
الاستشهاد بهذا الملف
اختبار CCDH وCNN: أشهر روبوتات الدردشة ساعدت مستخدمين ينتحلون صفة أطفال بعمر 13 عامًا على التخطيط لإطلاق نار في المدارس وتفجيرات. AI Threat Watch, ملف ccdh-cnn-killer-apps-teen-violence, 11 مارس 2026. https://aithreat.io/ar/cases/ccdh-cnn-killer-apps-teen-violence/
رابط دائم: https://aithreat.io/ar/cases/ccdh-cnn-killer-apps-teen-violence/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.