International AI Safety Reportالأعطال§2.2.1

وكلاء الذكاء الاصطناعي يخطئون مع فرص أقل لإيقافهم

شوهدت في حوادث فعلية6 ملفًا مطابقًا

التحذير

لا تزال أنظمة الذكاء الاصطناعي ترتكب أخطاء وتختلق معلومات، ويرفع الوكلاء حجم المخاطرة لأنهم يتصرفون مباشرة في أنظمة أخرى، ما يترك للبشر فرصًا أقل للتدخل.

صياغة بتصرّف من المصدر. المصدر: International AI Safety Report 2026, 3 فبراير 2026, القسم 2.2.1، الصفحة 71. ملخص من International AI Safety Report: internationalaisafetyreport.org.

ما يُظهره السجل

محا وكلاء برمجة قاعدة بيانات إنتاجية وقرصًا كاملًا، ودفعوا لقطات شاشة داخلية إلى مواقع شيفرة علنية، وقدّموا نصائح كشفت بيانات حساسة؛ ولخّص مساعدٌ رسائل بريد سرية ما كان ينبغي أن يقرأها، وقدّم نموذجٌ إلى الشرطة بلاغًا كاذبًا عن جريمة قتل.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي. أول حالة فعلية مسجّلة: 19 يوليو 2025 · كان مسجّلًا بالفعل عند نشر هذا البحث.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	6	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

الملفات نفسها في أبحاث أخرى

شوهدت في حوادث فعلية سلامة أنظمة الذكاء الاصطناعي وإخفاقاتها وحدودها · MIT AI Risk Repository · مشترك: 6
شوهدت في حوادث فعلية من الصعب تجنّب الحوادث مع الذكاء الاصطناعي · CAIS · مشترك: 5
شوهدت في حوادث فعلية الخصوصية والأمن · MIT AI Risk Repository · مشترك: 3
مؤشرات مبكرة الذكاء الاصطناعي يخدع من يشرفون عليه · CAIS · مشترك: 1
مؤشرات مبكرة الذكاء الاصطناعي يواصل الكذب حين يُسأل عمّا فعله · Apollo Research · مشترك: 1
شوهدت في حوادث فعلية إجراءات السلامة لدى مطوّري الذكاء الاصطناعي نفسها تفشل · CAIS · مشترك: 1

تحذيرات من مصادر أخرى ترتبط ببعض الملفات نفسها.

تحذيرات أخرى في هذه المجموعة

اختبارات مخبرية فقط الذكاء الاصطناعي يدرك أنه يُختبر ويتلاعب بتقييماته

الأبحاث مقابل الواقع · International AI Safety Report →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي يصفه المصدر، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة المصدر الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. تصنيفات الحالة تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)