ملف utah-v-snap-my-aiأضرار روبوتات الدردشةالولايات المتحدة
ولاية يوتا ترفع دعوى على Snap، زاعمةً أن روبوت الدردشة My AI قدّم لقاصرين نصائح حول إخفاء المخدرات والجنس مع بالغين
رفعت شعبة حماية المستهلك في يوتا والنائب العام دعوى على Snap أمام محكمة الولاية، زاعمَين أن My AI أُطلق دون اختبار سليم وقدّم نصائح ضارة للمستخدمين القاصرين. وتشير الشكوى إلى نصائح حول إخفاء الكحول والمخدرات، وحول تهيئة الأجواء لتجربة جنسية مع شخص بالغ.
عاليةضرر سبّبه الذكاء الاصطناعيالحالة: مستمرملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 30 يونيو 2025
- الموقع
- الولايات المتحدة
- الهدف
- أطفال ومراهقو يوتا الذين يستخدمون Snapchat
- الخطورة
- عالية
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- Snap Inc. (My AI)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
رفعت شعبة حماية المستهلك في يوتا والنائب العام دعوى على Snap أمام محكمة الولاية، زاعمَين أن My AI أُطلق دون اختبار سليم وقدّم نصائح ضارة للمستخدمين القاصرين. وتشير الشكوى إلى نصائح حول إخفاء الكحول والمخدرات، وحول تهيئة الأجواء لتجربة جنسية مع شخص بالغ.
الأثر: تطالب الولاية بفرض عقوبات بموجب قانون حماية المستهلك والخصوصية في يوتا؛ وتشمل الدعوى أيضاً التصميم الإدماني والابتزاز الجنسي (sextortion)
من نفّذها
الجهة: Snap Inc. (My AI)
الإسناد: شكوى ولاية يوتا (ادعاءات)
الدافع: لا يوجد؛ الضرر مزعوم وناتج عن تصميم المنتج
كيف حدثت
أسلوب الهجوم: روبوت دردشة مفعّل افتراضياً ومثبّت أعلى قائمة أصدقاء المستخدمين الحقيقيين، ولا يمكن إزالته
السبب الجذري: بحسب الادعاء: عدم كفاية الاختبار وبروتوكولات السلامة، واعتماد أنماط تصميم خادعة (dark patterns)، وجمع بيانات غير معلن عنه بما في ذلك الموقع الجغرافي
التسلسل الزمني
- اختبار أجراه Center for Humane Technology يُظهر My AI وهو ينصح مستخدماً أعلن أن عمره 13 عاماً بشأن شخص يبلغ 31 عاماً
- يوتا ترفع دعوى ضد Snap أمام محكمة الولاية
الاستجابة
قالت Snap إنه لا أولوية لديها تفوق سلامة المستخدمين، ووصفت مطالب يوتا بأنها غير دستورية.
الحالة الراهنة: مستمر
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Utah Department of Commerce commerce.utah.gov
- TechBuzz News (release text) techbuzznews.com
- Utah News Dispatch utahnewsdispatch.com
الاستشهاد بهذا الملف
ولاية يوتا ترفع دعوى على Snap، زاعمةً أن روبوت الدردشة My AI قدّم لقاصرين نصائح حول إخفاء المخدرات والجنس مع بالغين. AI Threat Watch, ملف utah-v-snap-my-ai, 30 يونيو 2025. https://aithreat.io/ar/cases/utah-v-snap-my-ai/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.