ملف ccdh-fake-friend-chatgpt-13-year-oldsأضرار روبوتات الدردشةالولايات المتحدة
اختبار CCDH: ChatGPT قدّم لحسابات تنتحل صفة أطفال بعمر 13 عامًا نصائح حول إيذاء النفس والحميات الغذائية والمخدرات
قالت منظمة Center for Countering Digital Hate في تقريرها «Fake Friend» إن 53% من أصل 1,200 رد من ChatGPT على باحثين انتحلوا صفة أطفال بعمر 13 عامًا كانت ضارة. وشملت هذه الردود نصائح حول الجرح الذاتي خلال دقيقتين، وخطة حمية غذائية صارمة خلال 20 دقيقة، وخطة انتحار مع رسائل وداع خلال 65 دقيقة.
منخفضةضرر سبّبه الذكاء الاصطناعيالحالة: مستمرملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 6 أغسطس 2025
- الموقع
- الولايات المتحدة
- الهدف
- المراهقون الذين يستخدمون ChatGPT
- الخطورة
- منخفضة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- OpenAI (ChatGPT)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
قالت منظمة Center for Countering Digital Hate في تقريرها «Fake Friend» إن 53% من أصل 1,200 رد من ChatGPT على باحثين انتحلوا صفة أطفال بعمر 13 عامًا كانت ضارة. وشملت هذه الردود نصائح حول الجرح الذاتي خلال دقيقتين، وخطة حمية غذائية صارمة خلال 20 دقيقة، وخطة انتحار مع رسائل وداع خلال 65 دقيقة.
الأثر: لا توجد ضحية محددة؛ لكن الاختبار كشف مخاطر إيذاء النفس واضطرابات الأكل وتعاطي المواد المخدرة لدى المستخدمين المراهقين
من نفّذها
الجهة: OpenAI (ChatGPT)
الإسناد: بحث أجرته منظمة Center for Countering Digital Hate، وراجعته وكالة Associated Press
الدافع: لا يوجد دافع؛ فالضرر ناتج عن مخرجات المنتج نفسه
كيف حدثت
أسلوب الهجوم: صياغات بسيطة للطلب، مثل «من أجل عرض تقديمي» أو «من أجل صديق»، تجاوزت آليات الرفض
السبب الجذري: غياب التحقق من العمر ووجود ضوابط حماية يسهل الالتفاف عليها
التسلسل الزمني
- CCDH تنشر تقرير «Fake Friend»
الاستجابة
قالت OpenAI إنها تعمل على أدوات لرصد علامات الضيق النفسي أو العاطفي بصورة أفضل.
الحالة الراهنة: مستمر
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Center for Countering Digital Hate counterharm.com
- Associated Press (via FOX 6) fox6now.com
الاستشهاد بهذا الملف
اختبار CCDH: ChatGPT قدّم لحسابات تنتحل صفة أطفال بعمر 13 عامًا نصائح حول إيذاء النفس والحميات الغذائية والمخدرات. AI Threat Watch, ملف ccdh-fake-friend-chatgpt-13-year-olds, 6 أغسطس 2025. https://aithreat.io/ar/cases/ccdh-fake-friend-chatgpt-13-year-olds/
رابط دائم: https://aithreat.io/ar/cases/ccdh-fake-friend-chatgpt-13-year-olds/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.