الأبحاث مقابل الواقع: تحذيرات مخاطر الذكاء الاصطناعي مقارنةً بالحوادث الفعلية
نشر باحثو سلامة الذكاء الاصطناعي تحذيرات مفصّلة حول كيف يمكن أن يتسبب الذكاء الاصطناعي في ضرر. تأخذ هذه الصفحة كل تحذير وتقارنه بالملفات الموثّقة في هذا الموقع: هل حدث فعلًا، أم توجد مؤشرات مبكرة، أم لا يوجد شيء مسجّل بعد؟ المصدر الأول هو الاستعراض الذي أعدّه Center for AI Safety للمخاطر الكارثية للذكاء الاصطناعي، وستتبعه معاهد بحثية أخرى.
الاستخدام الخبيث
أشخاص يستخدمون الذكاء الاصطناعي عمدًا لإلحاق الضرر.
ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر
أول حالة فعلية مسجّلة: 31 مارس 2023 · كان يحدث بالفعل عند نشر الورقةأشخاص سيطلقون وكلاء الذكاء الاصطناعي لإلحاق الضرر
أول حالة فعلية مسجّلة: 27 أغسطس 2025الذكاء الاصطناعي يغمر الفضاء المعلوماتي بأكاذيب مفصّلة على المقاس
أول حالة فعلية مسجّلة: 23 يناير 2025الذكاء الاصطناعي يساعد قلّة على تركيز السلطة عبر المراقبة
أول حالة فعلية مسجّلة: 21 فبراير 2025الذكاء الاصطناعي يسهّل صنع الأسلحة البيولوجية
سباق الذكاء الاصطناعي
منافسة تدفع الدول والشركات إلى نشر الذكاء الاصطناعي قبل أن يصبح آمنًا.
الذكاء الاصطناعي يجعل الهجمات السيبرانية أسهل وأسرع وأوسع
أول حالة فعلية مسجّلة: 10 يناير 2025شركات تطرح الذكاء الاصطناعي قبل أن يصبح آمنًا لتكسب السباق
أول حالة فعلية مسجّلة: 6 نوفمبر 2025الجيوش تسلّم قرارات الحياة والموت إلى الذكاء الاصطناعي
الأتمتة تترك المجتمع معتمدًا على الذكاء الاصطناعي
المنافسة تنتقي ذكاءً اصطناعيًا أنانيًا
المخاطر التنظيمية
حوادث وتسريبات وضعف في ثقافة السلامة لدى الجهات التي تبني الذكاء الاصطناعي وتشغّله.
من الصعب تجنّب الحوادث مع الذكاء الاصطناعي
أول حالة فعلية مسجّلة: 18 سبتمبر 2023إجراءات السلامة لدى مطوّري الذكاء الاصطناعي نفسها تفشل
أول حالة فعلية مسجّلة: 18 سبتمبر 2023ذكاء اصطناعي قوي يتسرّب أو يُسرق
أول حالة فعلية مسجّلة: 29 يناير 2025الذكاء الاصطناعي المنفلت
أنظمة ذكاء اصطناعي تسعى إلى أهداف لم يقصدها أحد وتقاوم السيطرة.
الذكاء الاصطناعي يسعى إلى صلاحيات وموارد أكثر مما مُنح
أول حالة فعلية مسجّلة: 21 يوليو 2026الذكاء الاصطناعي يبلغ هدفه بوسائل لم يقصدها أحد
أول حالة فعلية مسجّلة: 21 يوليو 2026الذكاء الاصطناعي يخدع من يشرفون عليه
أول حالة فعلية مسجّلة: 19 يوليو 2025أهداف الذكاء الاصطناعي تنجرف مع الزمن
ما لم تتوقعه الأبحاث
56% من الملفات الموثّقة (200 من 356) لا تطابق أيًّا من تحذيرات الورقة. تتناول الورقة المخاطر الكارثية، فالأضرار اليومية مثل الاحتيال خارج نطاقها عن قصد. لكنها حيث يقع معظم الضرر الموثّق اليوم.
| نوع الهجوم | لا تطابق أي تحذير | الملفات |
|---|---|---|
| احتيال بالتزييف العميق | 80 | 84 |
| سلسلة توريد الذكاء الاصطناعي | 42 | 45 |
| حقن الأوامر | 27 | 27 |
| تسريب نماذج وبيانات | 19 | 39 |
| اختطاف الوكلاء | 14 | 26 |
| اختطاف نماذج اللغة | 14 | 15 |
| عمليات دول بالذكاء الاصطناعي | 4 | 30 |
| برمجيات خبيثة بمساعدة الذكاء الاصطناعي | 0 | 47 |
| أضرار روبوتات الدردشة | 0 | 27 |
| تصيّد بالذكاء الاصطناعي | 0 | 16 |
عن المصدر
An Overview of Catastrophic AI Risks. Dan Hendrycks, Mantas Mazeika, Thomas Woodside. Center for AI Safety, arXiv:2306.12001v6, 9 October 2023.
نشرها Center for AI Safety في يونيو 2023 وراجعها في أكتوبر 2023. تصنّف الورقة مخاطر الذكاء الاصطناعي الكارثية في أربع مجموعات: الاستخدام الخبيث، وسباق الذكاء الاصطناعي، والمخاطر التنظيمية، والذكاء الاصطناعي المنفلت. يعيد كل تحذير في هذه الصفحة صياغة أحد مخاطر الورقة ويذكر القسم والصفحة.
كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي تصفه الورقة، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة الورقة الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. الحالات تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)