ملف ico-snap-my-ai-preliminary-noticeأضرار روبوتات الدردشةالمملكة المتحدة
مكتب مفوض المعلومات في المملكة المتحدة (ICO) يصدر إشعار إنفاذ أولياً إلى Snap بشأن مخاطر My AI على خصوصية الأطفال
خلص مكتب مفوض المعلومات (Information Commissioner's Office) مبدئياً إلى أن Snap لم تُقيّم بشكل كافٍ مخاطر حماية البيانات في روبوت المحادثة التوليدي My AI، ولا سيما على الأطفال، قبل إطلاقه. وكان بإمكان إشعار نهائي أن يُلزم Snap بالتوقف عن تقديم My AI في المملكة المتحدة.
عاليةضرر سبّبه الذكاء الاصطناعيالحالة: تم الحلملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 6 أكتوبر 2023
- الموقع
- المملكة المتحدة
- الهدف
- مستخدمو My AI على Snapchat في المملكة المتحدة، ومنهم الأطفال من عمر 13 إلى 17 عاماً
- الخطورة
- عالية
- التوثيق
- أكدته الجهة المتضررة أو الشركة أو سلطة رسمية
- الجهة المنفذة
- Snap Inc. (My AI، المبني على نماذج OpenAI)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
خلص مكتب مفوض المعلومات (Information Commissioner's Office) مبدئياً إلى أن Snap لم تُقيّم بشكل كافٍ مخاطر حماية البيانات في روبوت المحادثة التوليدي My AI، ولا سيما على الأطفال، قبل إطلاقه. وكان بإمكان إشعار نهائي أن يُلزم Snap بالتوقف عن تقديم My AI في المملكة المتحدة.
الأثر: إشعار إنفاذ أولي؛ وهو أول إجراء يتخذه مكتب مفوض المعلومات ضد منتج للذكاء الاصطناعي التوليدي
من نفّذها
الجهة: Snap Inc. (My AI، المبني على نماذج OpenAI)
الإسناد: مكتب مفوض المعلومات في المملكة المتحدة
الدافع: لا يوجد؛ إجراء تنظيمي بشأن تقييم مخاطر المنتج
كيف حدثت
أسلوب الهجوم: روبوت محادثة مثبّت في أعلى قوائم المحادثات لدى مستخدمي Snapchat، ويستخدمه ملايين المراهقين في المملكة المتحدة
السبب الجذري: عدم كفاية تقييم مخاطر حماية البيانات قبل الإطلاق
التسلسل الزمني
- طرح My AI لجميع مستخدمي Snapchat في المملكة المتحدة
- مكتب مفوض المعلومات يصدر إشعار إنفاذ أولياً
- مكتب مفوض المعلومات ينهي التحقيق دون إشعار نهائي
الاستجابة
قالت Snap إنها تراجع النتائج. وفي مايو 2024 أغلق مكتب مفوض المعلومات القضية دون إصدار إشعار نهائي بعد أن أتمّت Snap تقييماً للمخاطر مستوفياً للمتطلبات.
الحالة الراهنة: تم الحل
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- LBC lbc.co.uk
- Addleshaw Goddard addleshawgoddard.com
- ICO via Wired-Gov wired-gov.net
الاستشهاد بهذا الملف
مكتب مفوض المعلومات في المملكة المتحدة (ICO) يصدر إشعار إنفاذ أولياً إلى Snap بشأن مخاطر My AI على خصوصية الأطفال. AI Threat Watch, ملف ico-snap-my-ai-preliminary-notice, 6 أكتوبر 2023. https://aithreat.io/ar/cases/ico-snap-my-ai-preliminary-notice/
رابط دائم: https://aithreat.io/ar/cases/ico-snap-my-ai-preliminary-notice/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.