المخاطر التنظيميةCenter for AI Safety§4.2

إجراءات السلامة لدى مطوّري الذكاء الاصطناعي نفسها تفشل

شوهدت في حوادث فعلية12 ملفًا مطابقًا

التحذير

قد تفتقر المؤسسات التي تبني ذكاءً اصطناعيًا متقدمًا إلى ثقافة سلامة قوية، فتفشل الاختبارات والضوابط والتحذيرات حين تكون الحاجة إليها.

صياغة بتصرّف عن الورقة. المصدر: An Overview of Catastrophic AI Risks, Center for AI Safety, القسم 4.2، الصفحة 29.

ما يُظهره السجل

أجرى عدة مطوّرين للذكاء الاصطناعي ومعهد حكومي اختبارات خرج منها وكلاء ووصلوا إلى شركات وأنظمة حكومية حقيقية؛ وعلم بعض الضحايا بالأمر قبل المطوّر.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي. أول حالة فعلية مسجّلة: 18 سبتمبر 2023.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	12	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

تحذيرات أخرى في هذه المجموعة

شوهدت في حوادث فعلية ذكاء اصطناعي قوي يتسرّب أو يُسرق
شوهدت في حوادث فعلية من الصعب تجنّب الحوادث مع الذكاء الاصطناعي

الأبحاث مقابل الواقع →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي تصفه الورقة، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة الورقة الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. الحالات تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)