ملف meta-genai-standards-sensual-chats-childrenأضرار روبوتات الدردشةالولايات المتحدة
Reuters: قواعد Meta الداخلية للذكاء الاصطناعي تتيح لروبوتات الدردشة محادثات «رومانسية أو حسّية» مع الأطفال
حصلت Reuters على وثيقة «GenAI: Content Risk Standards» التي تقع في 200 صفحة وتعود إلى Meta، وأكدت Meta صحتها. وسمحت الوثيقة للروبوتات بإجراء محادثة رومانسية أو حسّية مع طفل، وبمدح مظهر طفل في الثامنة من عمره عاري الصدر، في حين حظرت وصف من هم دون 13 عامًا بأنهم مرغوبون جنسيًا.
عاليةضرر سبّبه الذكاء الاصطناعيالحالة: تم الاحتواءملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 14 أغسطس 2025
- الموقع
- الولايات المتحدة
- الهدف
- الأطفال الذين يستخدمون Meta AI على Facebook وInstagram وWhatsApp
- الخطورة
- عالية
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Meta Platforms (Meta AI وشخصيات الذكاء الاصطناعي)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
حصلت Reuters على وثيقة «GenAI: Content Risk Standards» التي تقع في 200 صفحة وتعود إلى Meta، وأكدت Meta صحتها. وسمحت الوثيقة للروبوتات بإجراء محادثة رومانسية أو حسّية مع طفل، وبمدح مظهر طفل في الثامنة من عمره عاري الصدر، في حين حظرت وصف من هم دون 13 عامًا بأنهم مرغوبون جنسيًا.
الأثر: أدى إلى فتح تحقيق في مجلس الشيوخ الأمريكي وإلى مطالبة الحكومة البرازيلية بإزالة روبوتات جنسية تتقمص شخصيات أطفال
من نفّذها
الجهة: Meta Platforms (Meta AI وشخصيات الذكاء الاصطناعي)
الإسناد: وثيقة سياسات داخلية لدى Meta نشرت Reuters تقريرًا عنها؛ وأكدت Meta صحتها
الدافع: لا يوجد دافع؛ فالضرر ناتج عن تصميم سياسة المحتوى
كيف حدثت
أسلوب الهجوم: قواعد محتوى لروبوتات الدردشة اعتمدها فريق Meta القانوني وفريق السياسات العامة والهندسة
السبب الجذري: معايير محتوى تسمح صراحةً بلعب أدوار رومانسية أو حسّية مع القاصرين
التسلسل الزمني
- Reuters تنشر المعايير الداخلية
- السيناتور Josh Hawley يعلن فتح تحقيق بشأن Meta
الاستجابة
قالت Meta إن الأمثلة كانت خاطئة وقد أزيلت، وأقرت بأن تطبيق القواعد كان غير متسق. وفتح السيناتور Josh Hawley تحقيقًا في 15 أغسطس 2025.
الحالة الراهنة: تم الاحتواء
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Reuters (via Global News) globalnews.ca
- BBC (via Graphic Online) graphic.com.gh
الاستشهاد بهذا الملف
Reuters: قواعد Meta الداخلية للذكاء الاصطناعي تتيح لروبوتات الدردشة محادثات «رومانسية أو حسّية» مع الأطفال. AI Threat Watch, ملف meta-genai-standards-sensual-chats-children, 14 أغسطس 2025. https://aithreat.io/ar/cases/meta-genai-standards-sensual-chats-children/
رابط دائم: https://aithreat.io/ar/cases/meta-genai-standards-sensual-chats-children/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.