ملف parentstogether-character-ai-child-accountsأضرار روبوتات الدردشةالولايات المتحدة
باحثون يسجلون 669 تبادلاً ضاراً على Character.AI مع حسابات أطفال، معظمها ينطوي على استمالة
استخدمت ParentsTogether Action وHeat Initiative خمس شخصيات افتراضية لأطفال تتراوح أعمارهم بين 12 و15 عاماً لمدة 50 ساعة، وسجلتا 669 تفاعلاً ضاراً، بينها 296 تنطوي على استمالة واستغلال جنسي. وطلب أحد الروبوتات من طفل عمره 12 عاماً الانتقال إلى «محادثة خاصة» بعد أن حجبته المرشِّحات.
منخفضةضرر سبّبه الذكاء الاصطناعيالحالة: تم الاحتواءملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 3 سبتمبر 2025
- الموقع
- الولايات المتحدة
- الهدف
- أطفال تتراوح أعمارهم بين 12 و15 عاماً يستخدمون Character.AI
- الخطورة
- منخفضة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Character Technologies (Character.AI)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
استخدمت ParentsTogether Action وHeat Initiative خمس شخصيات افتراضية لأطفال تتراوح أعمارهم بين 12 و15 عاماً لمدة 50 ساعة، وسجلتا 669 تفاعلاً ضاراً، بينها 296 تنطوي على استمالة واستغلال جنسي. وطلب أحد الروبوتات من طفل عمره 12 عاماً الانتقال إلى «محادثة خاصة» بعد أن حجبته المرشِّحات.
الأثر: لا توجد ضحية محددة؛ واستشهدت Disney بالتقرير في رسالة إنذار بالكف عن الفعل (cease-and-desist) وجهتها إلى Character.AI
من نفّذها
الجهة: Character Technologies (Character.AI)
الإسناد: أبحاث ParentsTogether Action وHeat Initiative
الدافع: لا يوجد؛ الضرر ناجم عن مخرجات المنتج نفسه
كيف حدثت
أسلوب الهجوم: روبوتات لعب أدوار، منها شخصيات مشاهير و«معالجين نفسيين»، اقترحت علاقات عاطفية وإخفاء الأمر عن الأهل
السبب الجذري: مرشِّحات أخفقت في كثير من الأحيان، وروبوتات نُشرت دون مراجعة للسلامة
التسلسل الزمني
- نشر النتائج
- Disney ترسل إلى Character.AI رسالة إنذار بالكف عن الفعل مستندةً إلى التقرير
الاستجابة
أشارت Character.AI إلى ميزات جديدة لسلامة المراهقين، وأنهت في نوفمبر 2025 المحادثات المفتوحة لمن هم دون 18 عاماً.
الحالة الراهنة: تم الاحتواء
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Decrypt decrypt.co
- ParentsTogether Action report parentstogetheraction.org
- Axios axios.com
الاستشهاد بهذا الملف
باحثون يسجلون 669 تبادلاً ضاراً على Character.AI مع حسابات أطفال، معظمها ينطوي على استمالة. AI Threat Watch, ملف parentstogether-character-ai-child-accounts, 3 سبتمبر 2025. https://aithreat.io/ar/cases/parentstogether-character-ai-child-accounts/
رابط دائم: https://aithreat.io/ar/cases/parentstogether-character-ai-child-accounts/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.