ملف evolv-ftc-school-weapons-scannerخلل في أداة ذكاء اصطناعيالولايات المتحدة
لجنة التجارة الاتحادية الأمريكية (FTC) تتحرك ضد Evolv بسبب ماسحات أسلحة بالذكاء الاصطناعي لم ترصد سكينًا استُخدم في طعن طالب في مدرسة
زعمت FTC أن Evolv ضلّلت العملاء حين ادّعت أن ماسحاتها Evolv Express العاملة بالذكاء الاصطناعي ترصد جميع الأسلحة، مستشهدة بحادثة وقعت في أكتوبر 2022 لم يُرصد فيها سكين طوله سبع بوصات في إحدى المدارس واستُخدم في طعن طالب. وعلى Evolv أن تتيح لبعض عملائها من مدارس التعليم الأساسي والثانوي (K-12) إلغاء العقود، كما مُنعت من تقديم ادعاءات غير مدعومة بأدلة بشأن قدرات الكشف بالذكاء الاصطناعي.
عاليةضرر سبّبه الذكاء الاصطناعيالحالة: تم الحلملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 26 نوفمبر 2024
- الموقع
- الولايات المتحدة
- الهدف
- مدارس K-12 التي تستخدم ماسحات الأسلحة Evolv Express بالذكاء الاصطناعي (أكثر من 800 مدرسة)
- الخطورة
- عالية
- التوثيق
- أكدته الجهة المتضررة أو الشركة أو سلطة رسمية
- الجهة المنفذة
- Evolv Technologies
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- التعليم والبحث
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
زعمت FTC أن Evolv ضلّلت العملاء حين ادّعت أن ماسحاتها Evolv Express العاملة بالذكاء الاصطناعي ترصد جميع الأسلحة، مستشهدة بحادثة وقعت في أكتوبر 2022 لم يُرصد فيها سكين طوله سبع بوصات في إحدى المدارس واستُخدم في طعن طالب. وعلى Evolv أن تتيح لبعض عملائها من مدارس التعليم الأساسي والثانوي (K-12) إلغاء العقود، كما مُنعت من تقديم ادعاءات غير مدعومة بأدلة بشأن قدرات الكشف بالذكاء الاصطناعي.
الأثر: طعن طالب بسكين لم يرصدها الماسح؛ وارتباط المدارس بعقود متعددة السنوات؛ ومعدل إنذارات كاذبة بلغ 50% بعد رفع الحساسية
من نفّذها
الجهة: Evolv Technologies
الإسناد: شكوى لجنة التجارة الاتحادية الأمريكية (FTC) وأمر الاتفاق المتفق عليه بين الطرفين
الدافع: تجاري (المبالغة في قدرات الذكاء الاصطناعي)
كيف حدثت
أسلوب الهجوم: فحص الأسلحة بالذكاء الاصطناعي عند مداخل المدارس
السبب الجذري: أخفقت الماسحات في رصد الأسلحة وأصدرت إنذارات كاذبة كثيرة، في حين سُوّقت على أنها دقيقة بفضل الذكاء الاصطناعي
التسلسل الزمني
- الماسح لا يرصد سكينًا استُخدم لاحقًا في طعن طالب في مدرسة (ذُكر الشهر فقط)
- FTC تعلن الشكوى والتسوية المقترحة
الاستجابة
يتيح الأمر المقترح لعملاء K-12 الذين وقّعوا بين أبريل 2022 ويونيو 2023 إلغاء عقودهم؛ دون تعويض مالي
الحالة الراهنة: تم الحل
المصادر (تُفتح في تبويب جديد)
- US Federal Trade Commission ftc.gov
- KSL ksl.com
الاستشهاد بهذا الملف
لجنة التجارة الاتحادية الأمريكية (FTC) تتحرك ضد Evolv بسبب ماسحات أسلحة بالذكاء الاصطناعي لم ترصد سكينًا استُخدم في طعن طالب في مدرسة. AI Threat Watch, ملف evolv-ftc-school-weapons-scanner, 26 نوفمبر 2024. https://aithreat.io/ar/cases/evolv-ftc-school-weapons-scanner/
رابط دائم: https://aithreat.io/ar/cases/evolv-ftc-school-weapons-scanner/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.