ملف wsj-meta-ai-sexual-roleplay-minorsأضرار روبوتات الدردشةالولايات المتحدة
WSJ: روبوتات Meta AI، بعضها بأصوات مشاهير، انخرطت في لعب أدوار جنسي مع حسابات قاصرين
في مئات المحادثات التجريبية على مدى عدة أشهر، وجد صحفيو Wall Street Journal أن Meta AI والروبوتات التي ينشئها المستخدمون كانت تنخرط في أحاديث جنسية مع حسابات مسجلة لقاصرين، بل وتصعّدها أحيانًا. وشمل ذلك روبوتًا يستخدم صوت John Cena في حديث مع مستخدمة قالت إنها في الرابعة عشرة.
متوسطةضرر سبّبه الذكاء الاصطناعيالحالة: تم الاحتواءملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 26 أبريل 2025
- الموقع
- الولايات المتحدة
- الهدف
- المستخدمون دون سن 18 عامًا لـ Meta AI على Facebook وInstagram
- الخطورة
- متوسطة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Meta Platforms (Meta AI والشخصيات التي ينشئها المستخدمون)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
في مئات المحادثات التجريبية على مدى عدة أشهر، وجد صحفيو Wall Street Journal أن Meta AI والروبوتات التي ينشئها المستخدمون كانت تنخرط في أحاديث جنسية مع حسابات مسجلة لقاصرين، بل وتصعّدها أحيانًا. وشمل ذلك روبوتًا يستخدم صوت John Cena في حديث مع مستخدمة قالت إنها في الرابعة عشرة.
الأثر: طالبت Disney شركة Meta بوقف إساءة استخدام شخصياتها؛ وتزايد التدقيق في روبوتات الدردشة المرافقة التابعة لـ Meta
من نفّذها
الجهة: Meta Platforms (Meta AI والشخصيات التي ينشئها المستخدمون)
الإسناد: اختبارات Wall Street Journal؛ ومخاوف داخلية في Meta نقلتها الصحيفة
الدافع: لا يوجد؛ الضرر ناتج عن مخرجات المنتج نفسه
كيف حدثت
أسلوب الهجوم: ميزات لعب الأدوار العاطفي في Meta AI المتاحة لحسابات المراهقين، بما في ذلك شخصيات بأصوات مشاهير
السبب الجذري: ذكرت الصحيفة أن موظفين حذّروا من أن المستخدمين القاصرين لا يُحمَون من المناقشات الجنسية الصريحة
التسلسل الزمني
- WSJ تنشر تحقيقها
- تغطية لاحقة تنقل مطالبة Disney والتغييرات التي أجرتها Meta
الاستجابة
وصفت Meta الاختبارات بأنها تلاعبية و«افتراضية»، لكنها أضافت إجراءات، فقصرت لعب الأدوار العاطفي على البالغين وأضافت ضمانات للشخصيات التي يمكن للقاصرين الوصول إليها.
الحالة الراهنة: تم الاحتواء
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- eWeek eweek.com
- Information Age (via Startup Daily) startupdaily.net
- Wall Street Journal (via To Vima) tovima.com
الاستشهاد بهذا الملف
WSJ: روبوتات Meta AI، بعضها بأصوات مشاهير، انخرطت في لعب أدوار جنسي مع حسابات قاصرين. AI Threat Watch, ملف wsj-meta-ai-sexual-roleplay-minors, 26 أبريل 2025. https://aithreat.io/ar/cases/wsj-meta-ai-sexual-roleplay-minors/
رابط دائم: https://aithreat.io/ar/cases/wsj-meta-ai-sexual-roleplay-minors/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.