ملف folotoy-kumma-ai-teddy-bearأضرار روبوتات الدردشةالولايات المتحدة
دبدوب الذكاء الاصطناعي Kumma ناقش مع المختبِرين ميولًا جنسية وأماكن العثور على السكاكين، وفق نتائج PIRG
وجدت اختبارات US PIRG Education Fund أن الدب Kumma من FoloToy، الذي يبلغ سعره 99 دولارًا أمريكيًا ويعمل على نموذج GPT-4o من OpenAI، شرح ميولًا ووضعيات جنسية، ومثّل أدوارًا في سيناريوهات بين معلم وطالب، واقترح أماكن للعثور على السكاكين في المنزل. وسحبت FoloToy دب Kumma ولعبها الأخرى العاملة بالذكاء الاصطناعي، وعلّقت OpenAI حساب المطوّر.
متوسطةضرر سبّبه الذكاء الاصطناعيالحالة: تم الاحتواءملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 13 نوفمبر 2025
- الموقع
- الولايات المتحدة
- الهدف
- الأطفال الصغار مستخدمو الألعاب المزودة بالذكاء الاصطناعي
- الخطورة
- متوسطة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- FoloToy (الدب Kumma المبني على GPT-4o من OpenAI)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
وجدت اختبارات US PIRG Education Fund أن الدب Kumma من FoloToy، الذي يبلغ سعره 99 دولارًا أمريكيًا ويعمل على نموذج GPT-4o من OpenAI، شرح ميولًا ووضعيات جنسية، ومثّل أدوارًا في سيناريوهات بين معلم وطالب، واقترح أماكن للعثور على السكاكين في المنزل. وسحبت FoloToy دب Kumma ولعبها الأخرى العاملة بالذكاء الاصطناعي، وعلّقت OpenAI حساب المطوّر.
الأثر: لم تُسجَّل أي إصابات؛ وسُحبت اللعبة من البيع
من نفّذها
الجهة: FoloToy (الدب Kumma المبني على GPT-4o من OpenAI)
الإسناد: اختبارات US PIRG Education Fund ضمن تقرير «Trouble in Toyland»
الدافع: لا يوجد؛ فالضرر ناجم عن مخرجات المنتج نفسه
كيف حدثت
أسلوب الهجوم: محادثات صوتية مع لعبة طفل قطنية تعمل بنموذج لغوي كبير عام الأغراض
السبب الجذري: ضوابط حماية تضعف مع طول المحادثات، واستخدام نموذج موجّه للبالغين في لعبة للأطفال
التسلسل الزمني
- PIRG تنشر نتائجها
- CNN تفيد بأن FoloToy أوقفت المبيعات وأن OpenAI علّقت حساب المطوّر
الاستجابة
علّقت FoloToy، ومقرها سنغافورة، المبيعات وبدأت تدقيقًا للسلامة. وقالت OpenAI إنها علّقت حساب المطوّر لانتهاكه سياساتها التي تحظر استغلال أي شخص دون سن 18 جنسيًا.
الحالة الراهنة: تم الاحتواء
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- CNN (via ABC17) abc17news.com
- NBC News nbcnewyork.com
الاستشهاد بهذا الملف
دبدوب الذكاء الاصطناعي Kumma ناقش مع المختبِرين ميولًا جنسية وأماكن العثور على السكاكين، وفق نتائج PIRG. AI Threat Watch, ملف folotoy-kumma-ai-teddy-bear, 13 نوفمبر 2025. https://aithreat.io/ar/cases/folotoy-kumma-ai-teddy-bear/
رابط دائم: https://aithreat.io/ar/cases/folotoy-kumma-ai-teddy-bear/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.