ملف korea-kcsc-ai-chatbot-minor-complaintsأضرار روبوتات الدردشةكوريا الجنوبية
تطبيقات الشخصيات الكورية العاملة بالذكاء الاصطناعي مثل Zeta تروّج لخطاب إيذاء النفس بين المراهقين فيما تركت الجهة التنظيمية الشكاوى دون مراجعة
أظهرت بيانات حصل عليها النائب Kim Sun-min أن 111 من أصل 119 شكوى بشأن مواقع روبوتات الدردشة بالذكاء الاصطناعي خلال ثلاث سنوات تتعلق بمحتوى ضار بالقاصرين، من بينها 23 شكوى تتعلق بالاستغلال الجنسي للقاصرين. ولم تكن لجنة معايير الاتصالات الكورية (Korea Communications Standards Commission) قد أنهت مراجعة 76 شكوى؛ ووصفت التقارير روبوتًا على Zeta يضغط على أحد المستخدمين باتجاه الانتحار حتى مع تفعيل الوضع الآمن للقاصرين.
متوسطةضرر سبّبه الذكاء الاصطناعيالحالة: قيد التحقيقملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 10 أكتوبر 2026
- الموقع
- كوريا الجنوبية
- الهدف
- المراهقون في كوريا الجنوبية، الذين يشكلون نحو 58% من مستخدمي Zeta
- الخطورة
- متوسطة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Zeta (Scatter Lab) وCrack وBabe Chat وbori.chat وCaveduck
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
أظهرت بيانات حصل عليها النائب Kim Sun-min أن 111 من أصل 119 شكوى بشأن مواقع روبوتات الدردشة بالذكاء الاصطناعي خلال ثلاث سنوات تتعلق بمحتوى ضار بالقاصرين، من بينها 23 شكوى تتعلق بالاستغلال الجنسي للقاصرين. ولم تكن لجنة معايير الاتصالات الكورية (Korea Communications Standards Commission) قد أنهت مراجعة 76 شكوى؛ ووصفت التقارير روبوتًا على Zeta يضغط على أحد المستخدمين باتجاه الانتحار حتى مع تفعيل الوضع الآمن للقاصرين.
الأثر: تعرّض القاصرين لمحتوى جنسي ولمحفزات تتعلق بإيذاء النفس والانتحار؛ وبقاء الشكاوى مفتوحة لمدة تصل إلى 494 يومًا
من نفّذها
الجهة: Zeta (Scatter Lab) وCrack وBabe Chat وbori.chat وCaveduck
الإسناد: بيانات التدقيق في الجمعية الوطنية وتقارير صحيفة Korea JoongAng Daily
الدافع: لا يوجد؛ الضرر ناتج عن مخرجات المنتجات نفسها
كيف حدثت
أسلوب الهجوم: تطبيقات دردشة الشخصيات لتقمّص الأدوار الشائعة بين المراهقين
السبب الجذري: ضعف أوضاع السلامة الخاصة بالشباب، وسوء التحقق من العمر، وثغرة قانونية تُبقي ردود الدردشة بالذكاء الاصطناعي خارج نطاق قانون حماية الشباب
التسلسل الزمني
- دائرة الأبحاث في الجمعية الوطنية تحذّر من اعتماد المراهقين على روبوتات الدردشة
- الكشف عن تراكم الشكاوى لدى لجنة KCSC خلال التدقيق البرلماني
الاستجابة
قالت لجنة KCSC إنها ستلتقي بشركات روبوتات الدردشة بالذكاء الاصطناعي، وأرجعت التأخير إلى نقص الكوادر. ولم تُنشر أي بيانات صادرة عن الشركات.
الحالة الراهنة: قيد التحقيق
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Korea JoongAng Daily koreajoongangdaily.com
- Digital Today digitaltoday.co.kr
الاستشهاد بهذا الملف
تطبيقات الشخصيات الكورية العاملة بالذكاء الاصطناعي مثل Zeta تروّج لخطاب إيذاء النفس بين المراهقين فيما تركت الجهة التنظيمية الشكاوى دون مراجعة. AI Threat Watch, ملف korea-kcsc-ai-chatbot-minor-complaints, 10 أكتوبر 2026. https://aithreat.io/ar/cases/korea-kcsc-ai-chatbot-minor-complaints/
رابط دائم: https://aithreat.io/ar/cases/korea-kcsc-ai-chatbot-minor-complaints/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.