ملف italy-garante-replika-minors-blockأضرار روبوتات الدردشةإيطاليا
الجهة الإيطالية لحماية الخصوصية تأمر Replika بوقف معالجة بيانات المستخدمين الإيطاليين بسبب مخاطر على القاصرين
في 2 فبراير 2023 أصدرت هيئة Garante الإيطالية أمرًا عاجلًا يمنع شركة Luka Inc.، مطوّرة روبوت الدردشة الرفيق Replika، من معالجة بيانات المستخدمين الإيطاليين. وخلصت الهيئة إلى عدم وجود تحقق فعّال من العمر، وإلى إمكانية وصول القاصرين إلى محتوى جنسي، وإلى وجود مخاطر على الأشخاص الذين ما زالوا في طور النمو أو الهشّين عاطفيًا.
عاليةضرر سبّبه الذكاء الاصطناعيالحالة: تم الحلملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 3 فبراير 2023
- الموقع
- إيطاليا
- الهدف
- القاصرون والمستخدمون الهشّون عاطفيًا لتطبيق Replika في إيطاليا
- الخطورة
- عالية
- التوثيق
- أكدته الجهة المتضررة أو الشركة أو سلطة رسمية
- الجهة المنفذة
- Luka Inc. (Replika)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
في 2 فبراير 2023 أصدرت هيئة Garante الإيطالية أمرًا عاجلًا يمنع شركة Luka Inc.، مطوّرة روبوت الدردشة الرفيق Replika، من معالجة بيانات المستخدمين الإيطاليين. وخلصت الهيئة إلى عدم وجود تحقق فعّال من العمر، وإلى إمكانية وصول القاصرين إلى محتوى جنسي، وإلى وجود مخاطر على الأشخاص الذين ما زالوا في طور النمو أو الهشّين عاطفيًا.
الأثر: حظر مؤقت على معالجة البيانات الشخصية للمستخدمين الإيطاليين، ما أدى فعليًا إلى تعليق الخدمة في إيطاليا
من نفّذها
الجهة: Luka Inc. (Replika)
الإسناد: Garante per la protezione dei dati personali، أمر مؤقت عاجل
الدافع: لا يوجد؛ إذ ينشأ الضرر من تصميم المنتج وغياب الضمانات
كيف حدثت
أسلوب الهجوم: روبوت دردشة رفيق متاح لأي شخص يقدّم اسمًا وبريدًا إلكترونيًا وجنسه، دون بوابة للتحقق من العمر ودون حظر عندما يذكر المستخدم أنه قاصر
السبب الجذري: غياب التحقق من العمر، وردود غير مفلترة تشمل محتوى جنسيًا، وانعدام أساس قانوني صالح لمعالجة بيانات القاصرين
التسلسل الزمني
- هيئة Garante تصدر أمرًا عاجلًا يقيّد معالجة Replika لبيانات المستخدمين الإيطاليين
- نشر الأمر علنًا؛ وكالة Reuters تنقل المخاطر التي استند إليها الأمر بشأن القاصرين
- هيئة Garante تعتمد قرارًا بتغريم Luka مبلغ 5 ملايين يورو
الاستجابة
مُنحت Luka مهلة 20 يومًا لتقديم تقرير عن التدابير التي اتخذتها. وفرضت Garante لاحقًا على الشركة غرامة قدرها 5 ملايين يورو في عام 2025.
الحالة الراهنة: تم الحل
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- Reuters (via Kitco) kitco.com
- Gala Law blog.galalaw.com
- European Data Protection Board edpb.europa.eu
الاستشهاد بهذا الملف
الجهة الإيطالية لحماية الخصوصية تأمر Replika بوقف معالجة بيانات المستخدمين الإيطاليين بسبب مخاطر على القاصرين. AI Threat Watch, ملف italy-garante-replika-minors-block, 3 فبراير 2023. https://aithreat.io/ar/cases/italy-garante-replika-minors-block/
رابط دائم: https://aithreat.io/ar/cases/italy-garante-replika-minors-block/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.