ملف lausd-allhere-ed-chatbot-dataتسريب نماذج وبياناتالولايات المتحدة
مُبلّغ عن مخالفات: روبوت الدردشة «Ed» الذي كلّفت LAUSD بنحو 6 ملايين دولار أرسل بيانات الطلاب إلى الخارج قبل انهيار شركة AllHere المورّدة
زعم مدير هندسة سابق في AllHere أن روبوت الدردشة «Ed» الذي طُوّر لمنطقة لوس أنجلوس التعليمية الموحدة (LAUSD) أدرج البيانات الشخصية للطلاب في كل طلب موجّه إلى الذكاء الاصطناعي، وشاركها مع أطراف ثالثة، وعالج معظم الطلبات على خوادم خارج الولايات المتحدة. أوقفت LAUSD الروبوت بعد أن سرّحت AllHere معظم موظفيها تسريحاً مؤقتاً في يونيو 2024، وقالت إن بيانات الطلاب بقيت محمية.
متوسطةضرر سبّبه الذكاء الاصطناعيالحالة: تم الاحتواءملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 1 يوليو 2024
- الموقع
- الولايات المتحدة
- الهدف
- طلاب منطقة لوس أنجلوس التعليمية الموحدة
- الخطورة
- متوسطة
- التوثيق
- أوردته صحافة أو باحثون موثوقون
- الجهة المنفذة
- AllHere Education (الشركة المورّدة)
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- التعليم والبحث
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
زعم مدير هندسة سابق في AllHere أن روبوت الدردشة «Ed» الذي طُوّر لمنطقة لوس أنجلوس التعليمية الموحدة (LAUSD) أدرج البيانات الشخصية للطلاب في كل طلب موجّه إلى الذكاء الاصطناعي، وشاركها مع أطراف ثالثة، وعالج معظم الطلبات على خوادم خارج الولايات المتحدة. أوقفت LAUSD الروبوت بعد أن سرّحت AllHere معظم موظفيها تسريحاً مؤقتاً في يونيو 2024، وقالت إن بيانات الطلاب بقيت محمية.
الأثر: إيقاف الروبوت بعد أشهر من إطلاقه؛ دفع نحو نصف عقد تبلغ قيمته نحو 6 ملايين دولار؛ خطر انكشاف بيانات الطلاب
من نفّذها
الجهة: AllHere Education (الشركة المورّدة)
الإسناد: ادعاءات مُبلّغ عن مخالفات نقلها موقع The 74؛ ولم تؤكدها LAUSD
الدافع: لا يوجد (سوء مزعوم في التعامل مع البيانات)
كيف حدثت
أسلوب الهجوم: روبوت دردشة يعمل بالذكاء الاصطناعي من جهة خارجية، مدمج مع سجلات الطلاب في المنطقة التعليمية
السبب الجذري: غياب مزعوم لتقليل البيانات إلى الحد الأدنى في الطلبات الموجّهة إلى الذكاء الاصطناعي، والمعالجة خارج البلاد؛ وانهيار الشركة المورّدة مالياً
التسلسل الزمني
- تطلق LAUSD روبوت الدردشة «Ed» (الشهر فقط)
- تقول AllHere إن معظم موظفيها سُرّحوا تسريحاً مؤقتاً؛ وإيقاف روبوت الدردشة
- ينشر موقع The 74 ادعاءات المُبلّغ عن المخالفات بشأن التعامل مع البيانات
الاستجابة
تخلّت LAUSD عن AllHere وقالت إن بيانات «Ed» تبقى مملوكة للمنطقة التعليمية ومحمية؛ وأجرى المفتش العام مقابلة مع المُبلّغ عن المخالفات
الحالة الراهنة: تم الاحتواء
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية الخصوصية والأمن · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
الاستشهاد بهذا الملف
مُبلّغ عن مخالفات: روبوت الدردشة «Ed» الذي كلّفت LAUSD بنحو 6 ملايين دولار أرسل بيانات الطلاب إلى الخارج قبل انهيار شركة AllHere المورّدة. AI Threat Watch, ملف lausd-allhere-ed-chatbot-data, 1 يوليو 2024. https://aithreat.io/ar/cases/lausd-allhere-ed-chatbot-data/
رابط دائم: https://aithreat.io/ar/cases/lausd-allhere-ed-chatbot-data/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.