ملف carmel-ny-principal-deepfake-tiktokإساءة بالتزييف العميقالولايات المتحدة
طلاب في مدرسة ثانوية ينشرون على TikTok مقاطع تزييف عميق بالذكاء الاصطناعي لمدير مدرسة في كارمل بولاية نيويورك يطلق فيها تهديدات عنصرية
نشر طلاب في Carmel High School مقاطع TikTok معدَّلة بالذكاء الاصطناعي بدا فيها أن مدير مدرسة إعدادية وضابط موارد مدرسية تابعًا لمكتب الشريف يدليان بتصريحات عنصرية وعنيفة بحق الطلاب السود. ووصفت المنطقة التعليمية المقاطع بأنها مقاطع فيديو مزيفة أُنشئت بالذكاء الاصطناعي، وعاقبت الطلاب بموجب مدونة السلوك الخاصة بها.
متوسطةهجوم باستخدام الذكاء الاصطناعيالحالة: تم الحلملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 17 فبراير 2023
- الموقع
- الولايات المتحدة
- الهدف
- مدير مدرسة George Fischer Middle School وموظفون آخرون في Carmel Central School District
- الخطورة
- متوسطة
- التوثيق
- أكدته الجهة المتضررة أو الشركة أو سلطة رسمية
- الجهة المنفذة
- طلاب في Carmel High School (قاصرون، لم تُذكر أسماؤهم)
- نوع الجهة
- غير معروف
- القطاع
- التعليم والبحث
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
نشر طلاب في Carmel High School مقاطع TikTok معدَّلة بالذكاء الاصطناعي بدا فيها أن مدير مدرسة إعدادية وضابط موارد مدرسية تابعًا لمكتب الشريف يدليان بتصريحات عنصرية وعنيفة بحق الطلاب السود. ووصفت المنطقة التعليمية المقاطع بأنها مقاطع فيديو مزيفة أُنشئت بالذكاء الاصطناعي، وعاقبت الطلاب بموجب مدونة السلوك الخاصة بها.
الأثر: تداول الطلاب وأولياء الأمور تهديدات عنصرية نُسبت إلى مدير مدرسة وضابط شرطة؛ وانتقد أولياء الأمور بطء تواصل المنطقة التعليمية بشأن سلامة الطلاب.
من نفّذها
الجهة: طلاب في Carmel High School (قاصرون، لم تُذكر أسماؤهم)
الإسناد: قالت المنطقة التعليمية إن طلاب المدرسة الثانوية هم من أنتجوا المقاطع ونشروها؛ وأفادت VICE بأن ثلاثة طلاب تورطوا في ذلك.
الدافع: غير معروف؛ ذُكر أنه مزحة أو تحرش
كيف حدثت
أسلوب الهجوم: لقطات حقيقية للإعلانات الصباحية لمدير المدرسة أُعيدت دبلجتها بصوت مقلَّد بالذكاء الاصطناعي ونُشرت على TikTok
السبب الجذري: سهولة الوصول إلى أدوات استنساخ الصوت وغياب نص قانوني يغطي انتحال شخصية الموظفين بالتزييف العميق
التسلسل الزمني
- الإبلاغ عن المقاطع لأول مرة إلى مسؤولي المدرسة
- مجلس التعليم يقول إن المقاطع مزيفة وأُنشئت باستخدام الذكاء الاصطناعي
- WABC تفيد بمعاقبة الطلاب، بما في ذلك الإيقاف عن الدراسة
- VICE تنقل انتقادات أولياء الأمور وتفيد بعدم توجيه أي تهمة جنائية
الاستجابة
أدان مجلس التعليم المقاطع؛ وعوقب الطلاب، بما في ذلك الإيقاف عن الدراسة. ولم يُبلَّغ عن توجيه أي تهم جنائية.
الحالة الراهنة: تم الحل
المصادر (تُفتح في تبويب جديد)
- VICE vice.com
- ABC7 New York abc7ny.com
الاستشهاد بهذا الملف
طلاب في مدرسة ثانوية ينشرون على TikTok مقاطع تزييف عميق بالذكاء الاصطناعي لمدير مدرسة في كارمل بولاية نيويورك يطلق فيها تهديدات عنصرية. AI Threat Watch, ملف carmel-ny-principal-deepfake-tiktok, 17 فبراير 2023. https://aithreat.io/ar/cases/carmel-ny-principal-deepfake-tiktok/
رابط دائم: https://aithreat.io/ar/cases/carmel-ny-principal-deepfake-tiktok/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.