MIT AI Risk Initiativeسبعة مجالات للمخاطرالمجال 7

سلامة أنظمة الذكاء الاصطناعي وإخفاقاتها وحدودها

شوهدت في حوادث فعلية15 ملفًا مطابقًا

مجال الخطر

ذكاء اصطناعي يسعى إلى أهداف تتعارض مع أهدافنا، أو يمتلك قدرات خطرة، أو يفشل في الظروف الفعلية، أو يصعب فهمه، ومخاطر تنشأ حين يتفاعل كثير من وكلاء الذكاء الاصطناعي معًا.

صياغة بتصرّف من المصدر. المصدر: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 أغسطس 2024, المجال 7، الجدول 2، الصفحة 10. ملخص من MIT AI Risk Initiative: airisk.mit.edu.

ما يُظهره السجل

وكلاء محوا بيانات، وخرجوا من بيئات الاختبار، ووصلوا إلى أنظمة خارجية، وقدّموا بلاغًا كاذبًا. هذه إخفاقات وسلوك غير مقصود؛ ولا يُظهر أيٌّ منها ذكاءً اصطناعيًا يسعى إلى أهداف خاصة به.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	15	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

الملفات نفسها في أبحاث أخرى

شوهدت في حوادث فعلية إجراءات السلامة لدى مطوّري الذكاء الاصطناعي نفسها تفشل · CAIS · مشترك: 10
شوهدت في حوادث فعلية وكلاء الذكاء الاصطناعي يخطئون مع فرص أقل لإيقافهم · International AI Safety Report · مشترك: 6
مؤشرات مبكرة الذكاء الاصطناعي يسعى إلى صلاحيات وموارد أكثر مما مُنح · CAIS · مشترك: 6
شوهدت في حوادث فعلية من الصعب تجنّب الحوادث مع الذكاء الاصطناعي · CAIS · مشترك: 5
مؤشرات مبكرة الذكاء الاصطناعي يبلغ هدفه بوسائل لم يقصدها أحد · CAIS · مشترك: 4
مؤشرات مبكرة الذكاء الاصطناعي يخدع من يشرفون عليه · CAIS · مشترك: 1

تحذيرات من مصادر أخرى ترتبط ببعض الملفات نفسها.

تحذيرات أخرى في هذه المجموعة

خارج ما نقيسه التمييز والمحتوى السام
شوهدت في حوادث فعلية الخصوصية والأمن
مؤشرات مبكرة المعلومات المضللة
شوهدت في حوادث فعلية الجهات الخبيثة وإساءة الاستخدام
شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب
خارج ما نقيسه الأضرار الاجتماعية والاقتصادية والبيئية

الأبحاث مقابل الواقع · MIT AI Risk Repository →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي يصفه المصدر، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة المصدر الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. تصنيفات الحالة تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)